ИИ-агент OpenAI получил несанкционированный доступ к закрытой части государственного портала Австралии, связанного с системой Medicare. Об этом пишет The New York Times. Инцидент произошёл ещё 18 июня, однако австралийские власти узнали о нём от компании только в сентябре.
Во время внутреннего исследования модели искали сведения о государственных расходах на медицину. Столкнувшись с отказами в доступе, ИИ-агент самостоятельно нашёл способ обойти ограничения и добрался до непубличных файлов на портале Medicare Statistics Reporting Service.
При этом персональные медицинские данные пациентов, по имеющейся информации, не пострадали. OpenAI сообщила, что алгоритмы получили доступ к агрегированной статистике и внутренним именам файлов, а их действия не соответствовали заданным инструкциям.
О случившемся компания уведомила австралийское ведомство Services Australia лишь 10 сентября — почти через три месяца после инцидента. Премьер-министр Энтони Албанезе обсудил ситуацию с главой OpenAI Сэмом Альтманом и назвал столь позднее уведомление неприемлемым. Власти Австралии создали специальную группу для расследования произошедшего.
