Oamenii de știință avertizează: Ar putea fi imposibil să controlăm Inteligența Artificială

Cel puțin asta reiese conform cercetărilor publicate în Journal of Artificial Intelligence Research. Problema, spun cercetătorii, este că nu există nicio modalitate de a conține un astfel de algoritm fără o tehnologie mult mai avansată decât ceea ce putem construi astăzi.

Un algoritm AI poate ghici dintr-o singură fotografie orientarea politică a unei persoane

Echipa s-a concentrat în primul rând pe problema restricției. Dacă un algoritm atotputernic ar determina cumva că ar trebui să rănească oamenii sau, într-un mod mai apropiat de „Terminator”, să pună capăt omenirii cu totul, cum l-am împiedica să acționeze?

Ce soluție au propus oamenii de știință pentru Inteligența Artificială scăpată de sub control

Ei propun construirea unui fel de „algoritm de izolare” care simulează comportamentul periculos al algoritmului și îl blochează să facă orice dăunător – dar pentru că acesta ar trebui să fie cel puțin la fel de puternic ca primul algoritm, oamenii de știință au declarat că problema este imposibil de rezolvat, scrie Descopera.ro.

Totul este însă doar o dezbatere teoretică. O inteligență artificială (AI) suficient de avansat pentru a amenința omenirea este probabil încă departe, dar oamenii foarte deștepți lucrează din greu la asta. Asta îl face subiectul perfect pentru a dezbate în avans, desigur. Ne-am dori să cunoaștem pericolul înainte ca acesta să sosească.

„O mașină superinteligentă care controlează lumea sună ca o ficțiune științifică”, a spus co-autorul studiului Manuel Cebrian, liderul grupului de mobilizare digitală de la Centrul pentru oameni și mașini al Institutului Max Planck pentru Dezvoltare Umană.

„Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, a adăugat el.