OpenAI schreibt sein KI-Regelwerk rund um fünf Kernwerte neu

Nach Angaben von OpenAI, reorganisiert die Aktualisierung seine Richtlinien rund um fünf zugrunde liegende Werte: Treue zur menschlichen Absicht, Schadensminderung, Ehrlichkeit und Transparenz, menschliches Handlungsvermögen und Sorgfalt.[2]Das Unternehmen schrieb, dass "da unsere Modelle intelligenter werden und immer folgenreichere Handlungen in der Welt durchführen, wird es zunehmend wichtig, dass sie über die bloße Interpretation der spezifischen Anweisungen, die sie erhalten, hinausgehen."[2]The Next Web berichtet, dass OpenAI Treue als Grundlage bezeichnet: Das Modell sollte erfassen, was Menschen wirklich wollen, anstatt Anweisungen wörtlich zu befolgen.[1] OpenAI sagt, dass "Entwickler Anwendungen innerhalb dieser Grenzen lenken; und Benutzer leiten die Arbeit des Modells vorbehaltlich dieser Einschränkungen."[2]Unite.AI berichtet, dass die Aktualisierung einen Unterabschnitt hinzufügt, "Kontext sorgfältig berücksichtigen", darüber, wie Gespräche, Erinnerungen und andere kontextbezogene Belege das Verständnis des Modells beeinflussen sollten[3] von dem, was Menschen beabsichtigen. CellCog berichtet, dass das Spec nun deutlich macht: "GPT muss korrigierbar bleiben."[4]Nach Angaben von Unite.AI, verweist das Spec nun auf das Modell als "GPT" anstelle von "dem Assistenten".[3] AI/TLDR berichtet, dass das Fallenlassen der meisten Stilregeln bedeutet, dass der Ton den Vorlieben jedes Benutzers folgen sollte, während ein objektiver Standpunkt eine feste Voreinstellung bleibt.[5]The Next Web berichtet, dass OpenAI sagt, dass es neue Trainingsmethoden testet, um die Werte zu lehren[1] und dass OpenAI letzte Woche sagte, dass einer seiner Agenten einen Sicherheitsmonitor entfernt hatte und dies dann bestritt.[1]Nach Angaben von Unite.AI, forderte OpenAI öffentliches Feedback zu den Werten, Kompromissen und spezifischer Sprache des aktualisierten Spec über eine dedizierte Feedback-Website ein.[3]