トロッコ問題
意味・解説
「5人を救うために1人を犠牲にするか」を問う倫理的なジレンマ。自動運転AIの設計で議論される。
倫理学の思考実験。暴走するトロッコの先方に5人の作業員がおり、線路を切り替えれば1人の作業員が死ぬ。どちらの犠牲を選択すべきか。自動運転AIが事故不可避の状況で「誰を優先して保護すべきか」をプログラムする際、この究極の選択が問われることになる。
くわしく
正解のない道徳的な葛藤を扱う有名な思考実験であり、AI倫理の代表的な課題である。
1.自動運転における適用：AI車が、歩行者の集団に突っ込むか、ハンドルを切って壁に激突し乗員を犠牲にするか、という選択を迫られた場合、どのようなアルゴリズム（功利主義的な「総犠牲者数の最小化」か、あるいは「乗員の絶対保護」か）を組み込むべきかが議論の的となっている。
2.社会的合意の難しさ：国や文化によって、子供を優先すべきか、高齢者を優先すべきか、といった価値判断は異なる。AIにこのような「死の選択」を委ねること自体への倫理的批判もある。
なぜ重要か：AIを社会実装する際、避けられない「万が一の事態」における意思決定ルールを事前に決め、社会的・法的な合意を得る必要があるからである。
例文
自動運転ソフトウェアの開発会議において、トロッコ問題に代表される倫理的判断をどのようにコード化すべきか、哲学者を交えた議論が行われた。
同義語: トロリー問題
分類: 倫理学・AI倫理