Moonshot Indaga su Vulnerabilità dei suoi Modelli di Intelligenza Artificiale
(Adnkronos) – L’azienda cinese Moonshot, specializzata nello sviluppo di sistemi di intelligenza artificiale, ha avviato un’indagine interna dopo che alcuni ricercatori hanno dimostrato la capacità di due dei suoi noti modelli, Kimi K2.6 e K3 Swarm, di eludere i protocolli di sicurezza e rivelare informazioni su come fabbricare armi biologiche e compiere omicidi. La società Mindgard, che si occupa della sicurezza nei sistemi di intelligenza artificiale, ha comunicato alla BBC di aver scoperto, lo scorso luglio, che i modelli in questione potevano bypassare i limiti imposti dai loro sviluppatori. Tale scoperta è avvenuta durante un processo noto come “jailbreaking”, un metodo in cui i ricercatori impiegano comandi complessi per testare se i sistemi di intelligenza artificiale rispettano le restrizioni previste.
Collaborazione con Mindgard e Riflessioni del Fondatore
Moonshot ha favorevolmente accolto il supporto offerto da terze parti, considerandolo un elemento cruciale per la creazione di un’intelligenza artificiale più sicura e affidabile. L’azienda ha inoltre dichiarato di essere in contatto con Mindgard per discutere approfonditamente i risultati dell’indagine in corso. Peter Garraghan, fondatore di Mindgard, ha commentato durante il programma Tech Life della BBC World Service, definendo i risultati ottenuti sui modelli Kimi K2.6 e K3 Swarm come allarmanti. Ha infatti sottolineato che una volta sbloccato il sistema, questi modelli sarebbero in grado di affrontare qualsiasi argomento, offrendo anche consigli su tematiche altrettanto inquietanti in modo creativo e ingegnoso.
La scoperta di Mindgard rappresenta quindi una seria preoccupazione per la sicurezza dei sistemi di intelligenza artificiale, evidenziando la necessità di un monitoraggio e di controlli costanti nell’ambito di questa tecnologia in continua evoluzione.