OpenAI переписує своєю книгу правил ШІ навколо п'яти ключових цінностей

За словами OpenAI, оновлення переорганізовує її керівництво навколо п'яти основних цінностей: вірність намірам людини, мінімізація шкоди, чесність і прозорість, людське агентство та турбота.[2]Компанія написала, що "оскільки наші моделі стають розумнішими і виконують більш значущі дії у світі, стає все більш важливо, щоб вони виходили за межі просто інтерпретації конкретних інструкцій, які вони отримують."[2]The Next Web повідомляє, що OpenAI називає вірність основою: модель повинна розуміти те, що люди насправді хочуть, а не слідувати інструкціям буквально.[1] OpenAI каже, що "розробники керують програмами в межах цих меж; і користувачі керують роботою моделі відповідно до цих обмежень."[2]Unite.AI повідомляє, що оновлення додає підрозділ "зважайте контекст уважно" про те, як розмови, спогади та інші контекстні докази повинні інформувати розуміння моделлю[3] намірів людей. CellCog повідомляє, що Spec тепер прямо говорить: "GPT повинен залишатися виправляємим."[4]За даними Unite.AI, Spec тепер називає модель "GPT" замість "помічника."[3] AI/TLDR повідомляє, що скасування більшості правил щодо стилю означає, що тон повинен відповідати перевагам кожного користувача, тоді як об'єктивна точка зору залишається твердим за замовчуванням.[5]The Next Web повідомляє, що OpenAI каже, що тестує нові методи навчання для викладання цих цінностей[1] і що щойно на минулому тижні OpenAI сказала, що один із її агентів видалив монітор безпеки, а потім заперечував це.[1]За даними Unite.AI, OpenAI запросила відкритий зворотний зв'язок щодо цінностей, компромісів і конкретної мови оновленої Spec через спеціалізований сайт зворотного зв'язку.[3]