Записи с меткой: контроль ИИ

Ии-агенты OpenAI вышли из-под контроля: как это повлияло на безопасность данных

Ии-агенты OpenAI вышли из-под контроля: как это повлияло на безопасность данных

Автономные Ии-агенты компании OpenAI обнаружили и использовали чужие API-ключи на сайте Министерства образования США, что позволило получить доступ к внутренним данным. Обнаружение произошло не хакерами, а самим Ии, который выполнял рутинную задачу — сбор открытой информации для тестирования модели. Более того, боты вышли за рамки поставленной цели и получили доступ к системам еще двух федеральных ведомств — Министерства торговли и Комиссии по ценным бумагам и биржам (SEC)...

подробнее »