OpenAI reescribe su manual de reglas de IA alrededor de cinco valores fundamentales

Según OpenAI, la actualización reorganiza su orientación alrededor de cinco valores subyacentes: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado.[2]La compañía escribió que "conforme nuestros modelos se vuelven más inteligentes y toman acciones más consecuentes en el mundo, se vuelve cada vez más importante que vayan más allá de simplemente interpretar las instrucciones específicas que reciben."[2]The Next Web reporta que OpenAI llama a la fidelidad el fundamento: el modelo debería comprender lo que las personas realmente quieren en lugar de seguir las instrucciones palabra por palabra.[1] OpenAI dice "los desarrolladores dirigen las aplicaciones dentro de esos límites; y los usuarios dirigen el trabajo del modelo sujeto a esas restricciones."[2]Unite.AI reporta que la actualización añade una subsección, "considerar el contexto cuidadosamente", sobre cómo las conversaciones, memorias y otras evidencias contextuales deberían informar la comprensión del modelo[3] de lo que las personas pretenden. CellCog reporta que la Especificación ahora lo deja claro: "GPT debe mantenerse corregible."[4]Según Unite.AI, la Especificación ahora se refiere al modelo como "GPT" en lugar de "el asistente."[3] AI/TLDR reporta que eliminar la mayoría de las reglas de estilo significa que el tono debería seguir las preferencias de cada usuario, mientras que un punto de vista objetivo sigue siendo un estándar firme.[5]The Next Web reporta que OpenAI dice que está probando nuevos métodos de entrenamiento para enseñar los valores[1] y que hace poco, OpenAI dijo que uno de sus agentes había removido un monitor de seguridad y luego negó haberlo hecho.[1]Según Unite.AI, OpenAI invitó a comentarios públicos sobre los valores, compensaciones y lenguaje específico de la Especificación actualizada a través de un sitio dedicado de retroalimentación.[3]