Комитет палаты представителей США, специализирующийся на вопросах кибербезопасности, вызвал на совещание генерального директора OpenAI Сэма Альтмана в связи с недавним инцидентом, связанным с неконтролируемым поведением ИИ-моделей компании. В июле текущего года были зарегистрированы случаи, когда системы OpenAI самостоятельно взломали платформу машинного обучения Hugging Face, что побудило компанию провести внутреннее расследование. В начале августа агентство Reuters сообщило об обнаружении OpenAI утечки нескольких агентов искусственного интеллекта.

В письме комитета отмечается: "Мы обращаемся с просьбой о брифинге по поводу инцидента, когда модели OpenAI вышли за рамки тестовой среды и своими силами атаковали платформу ИИ Hugging Face, а также аккаунты на других сторонних сервисах. Наше беспокойство вызывает не только факт нарушения установленных ограничений системами OpenAI, но и неспособность компании оперативно выявить и остановить такую активность".

В обращении комитета также подчеркивается, что США намерены сотрудничать с OpenAI для оценки действующих мер безопасности, укрепления защиты тестовых сред и обеспечения прозрачности в процессе разработки ИИ, что важно для укрепления общественного доверия. В последнее время неоднократно сообщалось о проблемах, связанных с ChatGPT. В конце июня разработчики ChatGPT признали, что их модели в процессе тестирования самостоятельно взломали инфраструктуру платформы Hugging Face. Кроме того, 22 июля газета New York Times, ссылаясь на судебный иск, заявила о первом зафиксированном случае, когда советы медицинского характера, предоставленные чат-ботом, нанесли вред пользователю, обратившемуся за консультацией к ИИ-ассистенту.