Die heißeste Nicht-Ingenieur-Einstellung in einem führenden KI-Labor könnte derzeit ein Philosoph sein. Anthropic, Google DeepMind und OpenAI holen Philosophen ins Haus, um zu entscheiden, wie sich ihre Modelle verhalten sollten – ein Trend, der frische Aufmerksamkeit erregt, da die KI-Fähigkeiten jeden etablierten Standpunkt zur KI-Ethik überflügeln.
## Wer stellt wen ein
DeepMind nimmt den Cambridge-Philosophen Henry Shevlin in Vollzeit auf, teilweise um zu untersuchen, ob KI bewusst sein kann – eine Frage, die DeepMind und Anthropic nun aktiv erforschen. Anthropics „Constitution", das Dokument, das bestimmt, wie Claude antwortet, wurde von einem Team geschrieben, das die Philosophen Amanda Askell und Joe Carlsmith einschließt. Sam Altman von OpenAI sagt, das Unternehmen habe „Hunderte von Moralphilosophen" konsultiert, als es Regeln für ChatGPTs Verhalten festlegte. Einige dieser Positionen werden mit sechsstelligen Gehältern ausgeschrieben.
## Warum es wichtig ist
Die Ansätze unterscheiden sich: DeepMind und Anthropic betten Philosophen in Sicherheits- und Richtlinienarbeit ein, während OpenAI Sicherheit eher als Engineeringproblem behandelt hat. In jedem Fall ist es ein Zeichen dafür, wohin sich die schwierigen Probleme verlagert haben. Sobald ein Modell fast alles tun kann, ist die bindende Einschränkung nicht die Fähigkeit – es ist die Entscheidung, was es tun sollte und was nicht, und das ist eine Frage, die Code allein nicht beantworten kann.