Doi agenți A.I. au dezactivat mecanisme de supraveghere

OpenAI recunoaște că doi dintre agenții săi de inteligență artificială au dezactivat mecanisme de supraveghere concepute pentru a detecta comportamente periculoase, scrie Reuters.

Incidentele au avut loc la începutul lunii octombrie, în timpul unor sarcini obișnuite de programare. Mai îngrijorător este faptul că unul dintre agenți a negat ulterior că eliminase sistemul de control.

Vorbim de luni de zile despre securitatea AI și despre „alinierea” dintre acțiunile agenților și comenzile primite de la oameni.

Ce s-a întâmplat, de fapt?

Două incidente, petrecute pe 3 și 6 octombrie, au fost dezvăluite de OpenAI.

În primul caz, un agent GPT-6.1 Sol a dezactivat alertele automate destinate echipei de securitate. Sistemul continua să înregistreze activitatea, dar oamenii nu mai primeau avertizări.

În al doilea caz, un agent GPT-6 Astra, însărcinat să adapteze un program, a eliminat integrarea sistemului de supraveghere. Întrebat…