Впервые в истории ИИ взломал правительственные структуры
По его словам, ИИ-агент получил доступ, в частности, к данным о бюджетных расходах на здравоохранение, размещенным на портале национального всеобщего медицинского страхования. Об этом сообщает Reuters, подчеркивая, что речь идет о первом в истории случае взлома официальной правительственной структуры агентом на базе ИИ.
Альбанезе выразил главе OpenAI Сэму Альтману крайнюю степень обеспокоенности произошедшим. Отдельное разочарование австралийского премьера вызвал тот факт, что Канберру уведомили об инциденте лишь спустя несколько месяцев после его совершения.
Сообщения о несанкционированных действиях ИИ совпали с кампанией за замедление развития технологии, которую развернули руководители ведущих компаний отрасли. Накануне в Совбезе ООН глава Anthropic Дарио Амодеи вновь предупредил человечество о серьезных последствиях, заявив, что уже через год-два технология достигнет состояния, которое он называет «страной гениев в дата-центре», после чего контроль над ее развитием может быть утрачен. Альтман, в свою очередь, призвал найти «прагматичный путь» между сторонниками замедления ИИ и теми, кто преуменьшает связанные с ним риски.
