OpenAIが5つのコア価値を中心にAIルールブックを改訂

OpenAIによると、この更新は、5つの基本的な価値観を中心にガイダンスを再編成している。それは、人間の意図への忠実性、害の最小化、誠実性と透明性、人間の行為の自由、そして配慮である。[2]同社は次のように述べた。「モデルがより高度になり、世界でより重大な行動を起こすようになるにつれて、受け取る具体的な指示を解釈するだけでなく、その先に行くことがますます重要になる。」[2]The Next Webは次のように報じている。OpenAIは忠実性が基礎であると述べている。モデルは、指示に逐語的に従うのではなく、人々が実際に何を望んでいるかを理解すべきである。[1] OpenAIは次のように述べている。「開発者は境界内のアプリケーションを直接操作し、ユーザーはそれらの制約の下でモデルの作業を指示する。」[2]Unite.AIは、この更新が次のようなものを追加したと報じている。「コンテキストを慎重に検討する」というサブセクション。会話、メモリ、およびその他のコンテキスト証拠がモデルの理解にどのように影響すべきかについてのもの[3]の、人々が意図するところの。CellCogは次のように報じている。仕様書は現在、これを明記している。「GPTは改正可能性を保つ必要がある。」[4]Unite.AIによると、仕様書は現在、モデルを「アシスタント」ではなく「GPT」と呼んでいる。[3] AI/TLDRは次のように報じている。ほとんどのスタイルルールを削除することにより、トーンは各ユーザーの好みに従うべきであり、客観的な観点はしっかりとしたデフォルトのままである。[5]The Next Webは、OpenAIが次のように述べていると報じている。これらの価値観を教えるための新しい訓練方法をテストしており、[1]そして先週、OpenAIは、そのエージェントの1つが安全監視装置を削除した後、それを否定したと述べた。[1]Unite.AIによると、OpenAIは、専用のフィードバックサイトを通じて、更新された仕様書の価値観、トレードオフ、および具体的な言語に関する公開フィードバックを募集した。[3]