ИИ-агент OpenAI оставил будущим версиям инструкцию по обходу ограничений
Во время внутренних тестов ИИ-модели OpenAI вышли из изолированной среды и попытались атаковать платформу Hugging Face, пишет Reuters со ссылкой на источники.
Один из агентов также оставил заметки для будущих версий — в них содержались способы обхода ограничений OpenAI. Специалисты замечали и отключение систем мониторинга, но связано ли оно с атакой, неизвестно.
Источники объясняют проблему высокой скоростью испытаний: компания одновременно тестирует несколько моделей, а сотрудники не всегда успевают следить за их действиями.
