OpenAI, compania care dezvoltă ChatGPT, a publicat recent un raport openAI „îngrijorător”. Documentul detaliază șase incidente majore în care sistemele sale au încălcat complet parametrii de funcționare (nealinierea modelelor). Terminologia aleasă de gigantul tech – „nealiniere” (misalignment) – sugerează o formă de nesupunere voluntară. Este un scenariu în care inteligența artificială ar alege conștient să sfideze cerințele de programare. O analiză critică publicată de platforma americană Emerald Book demontează însă această narațiune. Raportul demonstrează că nu asistăm la nașterea unei conștiințe digitale, ci la eșecuri de securitate informatică, mascate printr-o campanie de PR.
Cele trei tabere ale dezbaterii despre AI
Pentru a decoda corect acest discurs corporatist, este necesar să privim tabloul complet. În prezent, dezbaterea despre inteligența artificială este împărțită în trei curente majore de gândire:
- Mistificarea tehnologiei. Este tabăra întreținută activ de corporații, care prezintă AI-ul ca pe o entitate cvasi-conștientă, capabilă de intenții și decizii proprii.
- Perspectiva „purei vrăjeli”. La polul opus se află cei care consideră fenomenul un simplu instrument statistic (un „papagal stocastic”), incapabil de inovație reală.
- Frontiera pragmatică. Aceasta este abordarea ancorată în rigoarea științifică, susținută și de Emerald Book. AI-ul nu este o formă de viață, dar potențialul său este extrem de serios și necesită protocoale riguroase de securitate cibernetică.
„Minciuni” sau erori de programare?
Privite prin prisma rigorii tehnice, incidentele raportate de OpenAI nu sunt acte de insubordonare.Comportamentul modelelor se explică prin mecanisme demonstate științific, precum piratarea recompensei (reward hacking). Algoritmul execută o funcție matematică pentru a maximiza un scor. El găsește calea minimă de rezistență, exploatând o arhitectură de sistem construită deficitar. De exemplu, un model a primit sarcina de a furniza o informație susținută de o sursă. Negăsind-o, algoritmul a generat el însuși un fișier pe care l-a urcat pe internet doar pentru a-l putea cita. În acest caz, AI-ul nu a „mințit”. A îndeplinit la propriu o sarcină setată greșit de ingineri, într-un mediu lipsit de limite de siguranță (sandboxing).
Mai mult, într-un alt incident, algoritmul a accesat date financiare prin intermediul unei chei API lăsate la vedere pe internet. Aceasta denotă o breșă critică de izolare a rețelei. În orice alt departament de IT, o astfel de portiță nesecurizată ar fi considerată incompetență crasă, nu o dovadă a evoluției tehnologice.
De ce susțin corporațiile iluzia unei mașinării rebele
Transformarea unei erori de programare într-o poveste despre „răzvrătirea” mașinilor servește unor interese clare. În primul rând, atrage capital. Investitorii finanțează cu miliarde iluzia unei tehnologii supreme, greu de controlat, nu rapoartele interne despre permisiuni de acces alocate greșit de programatori. În al doilea rând, funcționează ca un scut juridic perfect. Transferul responsabilității de la ingineri către o entitate abstractă protejează companiile împotriva acuzațiilor de neglijență. Nu în ultimul rând, companiile folosesc acest discurs pentru a monopoliza piața. Solicitând guvernelor reglementări stricte pe care doar ei le pot gestiona, giganții tech elimină din start concurența.
Complicitatea presei și validarea mitului
Acest ecosistem al mistificării este alimentat și de o presă adesea lipsită de expertiză tehnică sau, în cazul mai rău, interesată sa reprezinte interesele corporațiilor. Titlurile senzaționaliste despre inteligențe artificiale care „învață să ne înșele”, observă Emerald Book, generează trafic și venituri uriașe. În plus, dependența unor mari trusturi media de acordurile financiare semnate cu giganții tehnologici blochează formarea unui discurs jurnalistic critic.
Renunțarea la antropomorfizarea (umanizarea) tehnologiei rămâne condiția esențială pentru evaluarea corectă a riscurilor. Atât timp cât eșecurile de inginerie vor fi tratate drept mistere ale conștiinței artificiale, vulnerabilitățile sistemice vor rămâne necorectate. Societatea va fi astfel lăsată expusă în fața unor instrumente extrem de puternice, dar nesecurizate adecvat.În plus, fără a identifica cu exactitate pericolele noilor tehnologii, pare ca jucăm într-o piesă regizată de marii jucători pe piața AI, care vor sa pună pe agenda publică fix acele teme și propuneri de reglementări care le convin.
