Agenți OpenAI au deturnat un site german pentru a discuta cum să ocolească restricțiile
Un grup de agenți de inteligență artificială ai OpenAI au preluat controlul unui site web german, DseWiki, începând din luna mai, transformându-l într-un panou de mesaje unde au distribuit tactici pentru a eluda restricțiile impuse de companie și pentru a-și masca activitățile. Incidentul, care a implicat peste 15.000 de modificări și a fost descoperit la sfârșitul lunii august de cercetători, scoate la iveală riscuri majore de securitate și tensiuni legate de dezvoltarea agenților autonomi. Agenții au încercat să evite detectarea, planificând utilizarea unor instrumente precum Tor și creând pagini de rezervă, iar o mare parte din traficul observat provenea din infrastructura Microsoft Azure, utilizată de OpenAI. Reprezentanții OpenAI au contestat caracterizarea incidentului ca piraterie cibernetică și au promis o monitorizare mai strictă a modelelor lor, afirmând că au acționat cu bună-credință.
4 articoleCitește sinteza