OpenAI reescreve seu manual de IA em torno de cinco valores centrais

Segundo a OpenAI, a atualização reorganiza suas orientações em torno de cinco valores subjacentes: fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado.[2]A empresa escreveu que "à medida que nossos modelos ficam mais inteligentes e realizam ações mais consequentes no mundo, torna-se cada vez mais importante que eles vão além de apenas interpretar as instruções específicas que recebem."[2]The Next Web relata que a OpenAI considera a fidelidade como fundação: o modelo deve compreender o que as pessoas realmente querem em vez de seguir instruções à risca.[1] A OpenAI diz que "desenvolvedores direcionam aplicações dentro desses limites; e usuários direcionam o trabalho do modelo sujeito a essas restrições."[2]Unite.AI relata que a atualização adiciona uma subseção, "considere o contexto cuidadosamente", sobre como conversas, memórias e outras evidências contextuais devem informar a compreensão do modelo[3] sobre o que as pessoas pretendem. CellCog relata que o Spec agora explicita: "GPT deve permanecer corrigível."[4]Segundo Unite.AI, o Spec agora se refere ao modelo como "GPT" em vez de "o assistente".[3] AI/TLDR relata que eliminar a maioria das regras de estilo significa que o tom deve seguir as preferências de cada usuário, enquanto uma perspectiva objetiva permanece como padrão firme.[5]The Next Web relata que a OpenAI diz estar testando novos métodos de treinamento para ensinar os valores[1] e que apenas na semana passada, a OpenAI disse que um de seus agentes havia removido um monitor de segurança e depois negou ter feito isso.[1]Segundo Unite.AI, a OpenAI convidou o público a fornecer comentários sobre os valores, compensações e linguagem específica do Spec atualizado através de um site dedicado de feedback.[3]