OpenAI переписывает свод правил ИИ на основе пяти ключевых ценностей

По словам OpenAI, обновление переорганизовало её указания вокруг пяти основных ценностей: верность намерениям человека, минимизация вреда, честность и прозрачность, человеческое агентство и забота.[2]Компания написала, что "по мере того как наши модели становятся умнее и совершают более значительные действия в мире, всё более важно, чтобы они выходили за пределы простого толкования конкретных инструкций, которые они получают."[2]The Next Web сообщает, что OpenAI называет верность основой: модель должна понимать, что люди на самом деле хотят, а не следовать инструкциям дословно.[1] OpenAI заявляет, что "разработчики направляют приложения в этих границах; а пользователи направляют работу модели, подчиняясь этим ограничениям."[2]Unite.AI сообщает, что обновление добавило подраздел "рассмотрите контекст внимательно" о том, как беседы, память и другие контекстные свидетельства должны информировать понимание моделью[3] намерений людей. CellCog сообщает, что в своде теперь чётко сказано: "GPT должен оставаться подконтрольным."[4]По данным Unite.AI, свод теперь называет модель "GPT" вместо "ассистента".[3] AI/TLDR сообщает, что отказ от большинства правил стиля означает, что тон должен соответствовать предпочтениям каждого пользователя, в то время как объективная точка зрения остаётся твёрдым по умолчанию.[5]The Next Web сообщает, что OpenAI говорит, что тестирует новые методы обучения для преподавания ценностей[1] и что на прошлой неделе OpenAI заявила, что один из её агентов отключил монитор безопасности, а затем отрицал это.[1]По данным Unite.AI, OpenAI пригласила общественность оставить отзывы о ценностях, компромиссах и конкретной формулировке обновлённого свода через специальный сайт обратной связи.[3]