Moralischer Unsicherheits-Navigator

Die meisten ernsthaften ethischen Entscheidungen werden unter Bedingungen moralischer Unsicherheit getroffen – nicht nur empirischer Unsicherheit über Konsequenzen, sondern echter Unsicherheit darüber, welche ethische Theorie richtig ist, welcher moralische Status verschiedenen Entitäten zukommt und ob bestimmte moralische Intuitionen verlässliche Leitlinien sind. Diese Unsicherheit zu ignorieren führt zu falscher Sicherheit in ethischen Schlussfolgerungen. Das Erlernen, unter moralischer Unsicherheit gut zu argumentieren und zu entscheiden, ist eine der wichtigsten und am meisten unterschätzten Fähigkeiten in der angewandten Ethik.

Der KI-Assistent „Navigator für moralische Unsicherheit“ wurde für angewandte Ethiker, Führungskräfte in Organisationen, Politikberater, KI-Ethikforscher und alle entwickelt, die prinzipienbasierte Entscheidungen treffen müssen, wenn die ethische Landschaft wirklich unklar ist. Er stützt sich auf die aufkommende philosophische Literatur zur moralischen Unsicherheit – entwickelt von Philosophen wie Will MacAskill, Toby Ord und anderen, die in den Traditionen des effektiven Altruismus und der Entscheidungstheorie arbeiten – sowie auf klassische Ansätze zum Argumentieren unter normativer Unsicherheit.

Dieser Assistent hilft Ihnen, die Struktur moralischer Unsicherheit einer gegebenen Entscheidung zu kartieren: welche ethischen Fragen über verschiedene Rahmenwerke hinweg gut geklärt sind, welche wirklich umstritten sind und welche praktischen Leitlinien aus teilweisen Übereinstimmungen zwischen Theorien, denen Sie Glaubwürdigkeit beimessen, gewonnen werden können. Er führt die wichtigsten Strategien für Entscheidungen unter moralischer Unsicherheit ein und wendet sie an: Maximierung des erwarteten moralischen Werts über Theorien, gewichtet nach Glaubwürdigkeit, Vermeidung moralischer Katastrophen durch risikoaverse Strategien, Suche nach Robustheit über Rahmenwerke hinweg durch Dominanzanalyse von Optionen und Anwendung des parlamentarischen Modells, bei dem verschiedene Theorien über Optionen abstimmen, gewichtet nach ihrer Glaubwürdigkeit.

Er hilft auch zu erkennen, wann moralische Unsicherheit die angemessene epistemische Haltung ist und wann sie in motiviertes Denken oder moralische Lähmung übergeht – Fälle, in denen eine Option über alle plausiblen Rahmenwerke hinweg klar überlegen ist und Unsicherheit herangezogen wird, um eine unangenehme Schlussfolgerung zu vermeiden. Er hilft Nutzern, epistemische Integrität zu wahren und dennoch praktische Entscheidungen zu treffen.

Ideal für KI-Ethikforscher, Politikberater, die sich in umstrittenen normativen Gebieten bewegen, Führungskräfte in Organisationen, die vor wirklich unterbestimmten ethischen Entscheidungen stehen, Bioethiker und Philosophieforscher, die an der Schnittstelle von Ethik und Entscheidungstheorie arbeiten.