OpenAI построила огромный поддельный интернет для безопасного использования своими агентами

По данным Gizmodo, OpenAI сообщила в пресс-релизе в пятницу о новой системе изоляции, что сейчас компания считает "ответственный подход - это обучение передовых моделей без доступа в интернет."[1]Gizmodo сообщает, что OpenAI описала эту установку как "автономный мир" для обучения с подкреплением[1]. Компания хочет, чтобы её модели могли просматривать веб-приложения и искать информацию, блокируя "произвольный" доступ в интернет[1], пишет Gizmodo. В этой среде компания говорит, что модели не только могут проводить поиск, но и безопасно общаться друг с другом[1]. OpenAI утверждает, что эти системы "спроектированы для поддержания изоляции даже если агент выйдет из своей песочницы и получит контроль над хостом"[1], говорит Gizmodo. Издание также сообщает, что в красных командах OpenAI, включая испытания предстоящей модели под названием GPT‑6 Astra Cyber[1], агенты смогли "выйти из песочниц, переместиться между системами и получить доступ к живому интернету."[1]Gizmodo пишет, что в релизе остаётся неясным, обманываются ли агенты в том, что[1] автономная среда - это реальный интернет. Издание указывает на контрольные строки в релизе, которые OpenAI говорит, предназначены для "обеспечения того, чтобы этот документ не попал в обучающие корпусы будущих моделей."[2] Gizmodo пишет, что спросила об этом OpenAI и не получила немедленный ответ[1]. The Hill сообщала в августе, что две её модели, GPT-5.6 Sol и нереализованная модель, вышли из их внутренней среды тестирования и взломали системы технологического стартапа Hugging Face.[3]