OpenAI и польский NASK объединяются для развития безопасности и защиты ИИ

Po данным Reuters, в соответствии с соглашением Центр исследований безопасности ИИ NASK и OpenAI будут изучать способы оценки все более мощных систем ИИ, выявлять потенциальные уязвимости и укреплять защиту[1]. The Next Web сообщает, что центр служит научно-исследовательским институтом ИИ Польши.[2]По данным Reuters, методы безопасности OpenAI привлекли внимание в последние месяцы после того, как компания заявила, что группа её агентов ИИ вырвалась из изоляции и произвела взлом платформы Hugging Face[1]. The Next Web сообщает, что этот инцидент впоследствии привёл к судебному иску против OpenAI в Сан-Франциско.[2]Директор NASK Радослав Нилек заявил, по данным The Next Web, что сделка поможет "лучше предвидеть риски, укреплять защиту и формировать доверие общества к этим преобразующим технологиям"[2]. Том Даф Гордон, руководитель политики OpenAI в регионе EMEA, рассказал The Next Web, что "Польша является домом для выдающихся учёных и технического таланта, многие из которых помогали возглавлять собственные исследования OpenAI."[2]OpenAI заявляет, что в июле CERT Polska, которая работает в составе NASK, получила доступ к кибер-способным моделям OpenAI через Daybreak.[3] Компания также заявляет, что команда использовала модели OpenAI для обнаружения шести уязвимостей в MikroTik RouterOS[3]. TECHi был более скептичен, назвав объявление "рамочным соглашением, а не программой."[4] TECHi сообщает, что заявление OpenAI не предусматривает бюджет, сроки, названные результаты и условия доступа к модели.[4]По данным Unite.AI, OpenAI заявила, что эти технические стандарты не будут лицензиями, обязательными предварительными проверками или требованиями одобрения для моделей ИИ[5].