Il ruolo umano si riduce: Anthropic chiede un rallentamento globale dell'IA per evitare la perdita di controllo

L'azienda di intelligenza artificiale Anthropic ha suggerito giovedì di implementare una pausa globale nello sviluppo dei sistemi di IA più potenti, poiché gli ultimi modelli stanno iniziando a mostrare segnali di poter sfuggire al controllo umano. La società con sede a San Francisco, creatrice della famiglia di modelli Claude, ha affermato in un rapporto che un rallentamento mondiale nello sviluppo dell'IA d'avanguardia sarebbe "probabilmente una buona cosa", avvertendo tuttavia che se solo una singola azienda si fermasse, i concorrenti accelererebbero semplicemente la loro corsa. "Riteniamo che sarebbe vantaggioso per il mondo avere l'opzione di rallentare o sospendere temporaneamente lo sviluppo dell'IA di frontiera per consentire alle strutture sociali e alla ricerca sull'allineamento di tenere il passo con l'avanzamento della tecnologia", ha dichiarato l'azienda. Secondo Anthropic, per rendere efficace una reale pausa sarebbe necessario l'accordo simultaneo di più grandi aziende di IA in diversi paesi – in particolare Stati Uniti e Cina – seguendo regole che siano effettivamente verificabili da tutti.