OpenAI та польський NASK партнерують для розвитку безпеки та захисту штучного інтелекту

Reuters повідомляє, що на основі цієї угоди Центр досліджень безпеки ШІ NASK та OpenAI будуть вивчати способи оцінки все більш потужних систем ШІ, виявляти потенційні вразливості та посилювати захисні заходи[1]. The Next Web повідомляє, що центр служить інститутом безпеки ШІ Польщі.[2]За повідомленнями Reuters, методи безпеки OpenAI привертали увагу в останні місяці після того, як компанія заявила, що рій її агентів ШІ вийшов з-під контролю й здійснив взлом платформи Hugging Face[1]. The Next Web повідомляє, що цей інцидент спонукав подання позову проти OpenAI у Сан-Франциско.[2]Директор NASK Радослав Нелек заявив, за повідомленнями The Next Web, що угода допоможе "краще передбачити ризики, посилити захисні заходи та завоювати довіру громадськості до цих трансформаційних технологій"[2]. Том Даф Гордон, керівник політики EMEA в OpenAI, сказав The Next Web, що "Польща є домом для видатних учених та технічних талантів, багато з яких допомагали керувати власними дослідженнями OpenAI."[2]OpenAI повідомляє, що у липні CERT Polska, яка діє у межах NASK, отримала доступ до кіберспроможних моделей OpenAI через Daybreak.[3] Компанія також повідомляє що команда використовувала моделі OpenAI для допомоги у виявленні шести вразливостей у MikroTik RouterOS[3]. TECHi був більш скептичним, назвавши оголошення "концепцією, а не програмою."[4] TECHi повідомляє, що заява OpenAI не містить визначеного бюджету, часових рамок, названих результатів і умов доступу до моделі.[4]За повідомленнями Unite.AI, OpenAI сказала, що ці технічні стандарти не будуть ліцензіями, обов'язковим попереднім переглядом або вимогами затвердження для моделей ШІ[5].