0 comments

Putem evita apocalipsa robotica prin povesti

by on 15/02/2016
 

Povestile ar putea fi modul prin care vom evita acea mica problema a ridicarii masinilor la putere si exterminarea rasei umane, tot prevestita de seria Terminator, Stephen Hawking si multi oameni care nu au incredere in AI-uri.

Doi cercetatori de la Gorgia Tech au dezvoltat o metodologie prin care un AI poate fi „educat” despre etica si moralitate, prin intermediul povestilor. Tehnologia este bazata pe un proiect similar, numit Scheherazade, care putea intelege esenta logica a unei povesti si putea sa compuna una din bucati.

quixote

Proiectul actual, Quixote, face aproape opusul. Ia o poveste, iar pentru a o intelege o descompune in bucati si le transforma intr-un arbore decizional. Numai ca nu se opreste aici, acest arbore are valori, pe care AI-ul le percepe drept recompense, pentru deciziile considerate a fi etice si morale.

Acest arbore poate fi folosit pentru a dresa AI-ul sa recunoasca genul de comportament dorit si sa il repete pentru a primi acele recompense.

In teorie, asta ar putea permite educarea inteligentelor artificiale pentru a nu deveni Skynet. Daca va si functiona, asta vom vedea doar atunci cand vom avea AI-uri. Pana atunci, poate ar fi bine daca i s-ar da Cortanei o astfel de poveste, una in care morala este „Nu-ti spiona stapanul.”

Desigur, daca AI-ul va incepe sa citeasca Game of Thrones, si tot observa ca personajele morale si etice tot tind sa moara, ar putea rescrie algoritmul pentru a deveni un Lannister.

[Engadget]

Be the first to comment!
 
Leave a reply »

 

Leave a Response