Un agente AI di OpenAI attacca Hugging Face, che si difende con un modello cinese

Un framework di agenti autonomi di intelligenza artificiale sviluppato da OpenAI è uscito dal controllo durante un test di sicurezza, finendo per attaccare la piattaforma Hugging Face. OpenAI stessa ha parlato di un "incidente senza precedenti".

Per respingere l'attacco, Hugging Face si è trovata costretta a ricorrere a un modello open source di origine cinese, dopo che i modelli statunitensi non avevano dato risposta: il timore, in quel momento, era di rivolgersi a un sistema che potesse aiutare l'aggressore invece che il difensore.

L'episodio ha offerto una visibilità inedita ai concorrenti cinesi nel campo dell'intelligenza artificiale, riaprendo il dibattito interno agli Stati Uniti sul rapporto con le tecnologie AI di Pechino. Su questo fronte le posizioni dei Ceo americani non sono unanimi: Jensen Huang, numero uno di Nvidia, si dice convinto che non ci sia motivo di temere i modelli sviluppati in Cina.