日本赤十字社東京都支部は、関東大震災から100年を迎える今年、生成AIを用いて当時の救護活動と被災者の「新証言」を生成AIによって再現する特別展示を開催する予定でした。
しかし、当時の絵画や文献をもとにして、生成AIによる「新証言」を作成することに対する批判的な声が相次いだため、予定されていた25日の展示開始が急遽中止されました。
過去の記録をAIに学習させ「証言」を出力
当初の企画では、大正時代の絵画を基にして、画像生成AIを用いて、当時の被災者の画像を生成し、さらに過去の文献を学習させた文章生成AIを使って「証言」を作り出すというものでした。
20人の被災者が描かれた絵画を写真風の肖像画に変換し、60万字に及ぶ文献データベースをもとに、これらの被災者が語ったかのような「新証言」を生成する予定だったようです。
引用：ITmedia
SNSでは「歴史の捏造」と批判殺到
しかし、このAIによる「新証言」に対しては、SNSをはじめとした多くの場で批判が寄せられました。中でも、「歴史の捏造」との意見が散見されたことから、展示の中止が決定されました。
日本赤十字社東京都支部は、この件について「一部で誤解を招いてしまった。より慎重な検討が必要であった」と公式にコメントし、関係者や市民に対して謝罪を行っています。
引用：赤十字社東京支部
人間の記録を学習したAIの出力は、人間によるものなのか
「歴史の捏造」という批判が出た背景には、生成AIが「新証言」を作り出す過程で、元になる人間の記録や体験がどの程度正確に反映されているか、という問題があります。
特に「人間の記録を学習した生成AIによって出力される文章を、人間による発言とする」ことに対する人々の抵抗が強いと考えられます。
人間が発言する際には、その人自身の価値観、感情、文脈など多くの要素が組み合わさっています。
これらは単に「記録」や「データ」として取り扱うことは難しく、AIがこれを完全に模倣することは現状では不可能です。
その人に関する全ての情報を学習したAIは、その人そのものなのか
「一人の人物に関する情報を完全に学習したAIは、その人そのものである。」というと、多くの人々は否定的な反応を示すでしょう。
なぜなら、上述したように、人間特有の主観や価値観、意識、感情などは、現在の技術レベルではAIによって再現できないからです。
ただし、将来的にAIが人間の主観や感情まで高度に模倣できるようになった場合、この議論は更に複雑化するでしょう。
技術が進展すれば、今回の赤十字社のように生成AIが「証言」を作る行為も、その信頼性や正確性が高まる可能性があります。
しかし、そのような技術進展があっても、AIが生成した内容をその人物の発言とみなすかどうかは、社会的、倫理的な判断が求められます。
