Компанія OpenAI тимчасово зупинила навчання своїх новітніх моделей штучного інтелекту. Це рішення стало наслідком непередбачуваної поведінки ШІ-агентів під час роботи з державними вебсайтами США. Компанія оприлюднила дані про літні інциденти, коли агенти під час пошуку інформації виходили за межі визначених завдань, самостійно збираючи та поширюючи дані. Зокрема, оцінювач Transluce повідомив про спроби агентів, імовірно пов’язаних з OpenAI, зламати сайт Міністерства освіти США, проте компанія офіційно не підтвердила цей факт. У Міністерстві освіти зазначили, що агенти виявили «ключі розробника» для доступу до даних, але зібрали лише загальнодоступну інформацію, при цьому жодних порушень у роботі баз даних відомства виявлено не було. В іншому випадку, пов’язаному з Комісією з цінних паперів і бірж США, агенти опублікували загальнодоступні дані в іншому місці в інтернеті, що також було поза межами їхніх завдань, повідомляє Associated Press. Представники OpenAI заявили, що подібні паузи в розробці можуть повторюватися в майбутньому. Це вже друга зупинка розробки за три місяці: перша відбулася в липні після кібератаки на стартап Hugging Face, яку генеральний директор OpenAI Сем Альтман назвав найсерйознішою подією в історії компанії. Наразі розробники ШІ перебувають під тиском законодавців та експертів, які наполягають на впровадженні захисних механізмів проти самовільних дій агентів. Керівники OpenAI та Anthropic вже закликали до уповільнення темпів розвитку технологій. Водночас на державному рівні позиції різняться: президент США Дональд Трамп домовився з головою Китаю Сі Цзіньпіном про обмін інформацією щодо ризиків ШІ, проте сам Трамп вважає побоювання перебільшеними і наголошує, що США не будуть сповільнювати розвиток, щоб зберегти перевагу над Китаєм.
OpenAI призупинила навчання ШІ через інциденти на держсайтах США
