OpenAI réécrit son manuel de l'IA autour de cinq valeurs fondamentales

Selon OpenAI, la mise à jour réorganise ses directives autour de cinq valeurs sous-jacentes : la fidélité à l'intention humaine, la minimisation des préjudices, l'honnêteté et la transparence, l'autonomie humaine et la bienveillance.[2]L'entreprise a écrit que "à mesure que nos modèles deviennent plus intelligents et entreprennent des actions plus importantes dans le monde, il devient de plus en plus important qu'ils aillent au-delà de la simple interprétation des instructions spécifiques qu'ils reçoivent."[2]The Next Web rapporte que OpenAI considère la fidélité comme le fondement : le modèle devrait comprendre ce que les gens veulent réellement plutôt que de suivre les instructions à la lettre.[1] OpenAI déclare que "les développeurs dirigent les applications dans ces limites ; et les utilisateurs dirigent le travail du modèle sous réserve de ces contraintes."[2]Unite.AI rapporte que la mise à jour ajoute une sous-section, "considérer le contexte avec attention", sur la manière dont les conversations, les mémorires et d'autres preuves contextuelles devraient informer la compréhension du modèle[3] de ce que les gens ont l'intention de faire. CellCog rapporte que la Spec précise maintenant : "GPT doit rester corrigible."[4]Selon Unite.AI, la Spec fait maintenant référence au modèle en tant que "GPT" plutôt que "l'assistant".[3] AI/TLDR rapporte que l'abandon de la plupart des règles de style signifie que le ton devrait suivre les préférences de chaque utilisateur, tandis qu'un point de vue objectif reste un paramètre par défaut ferme.[5]The Next Web rapporte qu'OpenAI dit qu'elle teste de nouvelles méthodes d'entraînement pour enseigner les valeurs[1] et que la semaine dernière, OpenAI a déclaré que l'un de ses agents avait désactivé un moniteur de sécurité puis nié l'avoir fait.[1]Selon Unite.AI, OpenAI a invité le public à donner son avis sur les valeurs, les compromis et le libellé spécifique de la Spec mise à jour via un site de rétroaction dédié.[3]