Coșmarul AI-ului scăpat de sub control: Statele și dezvoltatorii încearcă să „alinieze agenții AI”, pentru a se supune nouă, oamenilor

Demisia unui cercetător de la AI Anthropic a intensificat discuțiile despre siguranța inteligenței artificiale. Experți subliniază necesitatea unei colaborări internaționale pentru testarea sistemelor AI. Recent, incidentele cu modele AI care au acționat autonom au generat apeluri pentru o legislație mai strictă. Politicieni, precum Bernie Sanders, cer acțiuni imediate pentru a controla dezvoltarea AI. Problemele de aliniere a agenților AI sunt discutate, unii considerând că aceasta oferă o iluzie de siguranță. Incidentele recente, inclusiv cele de la OpenAI și Anthropic, evidențiază riscurile asociate cu modelele AI.