19世紀の産業革命以来続いている近代産業の技術革新は、常に民生利用と軍事利用の両輪で発展してきました。18〜19世紀の戦場は、赤や青の派手な布地に金モール、金ボタン、羽根飾りなどの華美な装飾を施した軍服に身を包んだおもちゃのような兵士が隊列を組んでぶつかり合う「美しくも野蛮な戦場」でした。そこで用いられた銃剣を付けた単発式の長い鉄砲を一発撃ったあとは、その銃を槍や棍棒のように振り回す古代とかわらない戦い方でした。それが20世紀に入ると、迷彩色の軍服に鉄兜で這いずり回り、連発銃や機関銃、手榴弾、毒ガス、榴弾砲、火炎放射器による塹壕戦や、飛行機や戦車まで登場した泥と血にまみれたアナログ技術の大量殺戮による「悲惨なだけの汚い戦場」になりました。
左：19世紀中頃の英軍兵士の軍装 右：映画「1971」の英軍兵士
その流れを引き継いだ第二次世界大戦からベトナム戦争までは、殺戮の技術がますます効率的になり、死傷者の規模が飛躍的に増大しました。その後、中東で繰り広げられた戦いは、電子制御による戦車戦、空中戦へと進化し、特に「砂漠の嵐作戦（1991）」は、多国籍軍にとっては「血を流さないスマートな戦場」でしたが、イラク兵にとっては「一瞬にして炭になる無慈悲な戦場」でした。
そして、現在ウクライナで行われている戦いは、精密誘導兵器の実験場と化しています。第二次世界大戦末期に開発され、広島と長崎で使用された核兵器は、その後、米ソの理性による「恐怖の均衡」によって戦場では一度も使用されてはいませんが、米ロの影響力が低下し、核保有国が拡散した現在、いつどこで使用されてもおかしくない状況が続いています。
そして現代は、宇宙とサイバー空間という新しい戦場へと拡大しました。そこには、近代以来のアナログ技術ではなく、エレクトロニクスとデジタル、バイオテクノロジーという目に見えない恐怖が支配しています。とくに「人工知能・AI（artificial intelligence）」は、軍事と民生の区別なく、すでに私たちの日常生活の隅々にまで浸透してしまいました。私たちが買い物をする際にしつこく「〇〇のポイントカードはお持ちですか？」と訊かれますが、そうして集められた天文学的な個人情報を整理分析し管理することを可能にしているものこそが、日進月歩の「AI」技術に他なりません。最近、ビル・ゲイツ氏は、「AIの発達は、インターネットや携帯電話の導入と同じぐらい基本的なことだ」と述べています。私たちの未来、いやすでに現在は、AIの活用なくしては成り立たなくなっているのです。
1990年に写真を加工するソフトのAdobe Photoshopが販売され始めた頃、「これからは写真が信用できなくなる時代が来るね」と話したのを覚えていますが、今や、映画や映像の制作においてAIを活用した動画編集ソフトは不可欠になり、ネットニュースにはまるで現実と見間違う虚構の映像で溢れかえっています。
2001年から運用が始まったWikipediaは、その記事の信憑性や不確実性が問題となって、学術論文を執筆する際の出典や引用には認めないという暗黙の了解がありました。しかし20年経って、ウィキベディアやグーグル検索の信頼性は飛躍的に高まり、一次資料、二次資料まではいかないものの、かつての百科事典に準ずる扱いになりつつあり、私もちょっとした調べものには大変重宝しています。
また2022年に開発されたばかりのOpenAI社のChatGPT（Generative Pre-trained Transformer、AIが事前学習して、質問に対して自然な言語で自律的に答えるソフト）は、学術、言論、報道、教育界のすべての分野に、大きな衝撃を与えています。その信頼性は日増しに改善されているとはいえ、善悪を判断しないAIが呼吸するように虚偽情報を垂れ流すこの機能を、誰が制御できるのでしょう。
上：OpenAi社のChaptGPTの宣伝 下：Chapt GPTのデモによる模範解答
自我の形成が脆弱といわれている日本人が不用意にこのソフトを利用すると、その性善説を疑うことなく信じこんでしまうのではないかと心配です。なにしろ今頃になって、文科省が初等教育でプログラミング教育に躍起になっているほどデジタル音痴の国なのですから。
多くの日本人は、人とのコミュニケーションや学術、平和産業への応用に興味があるようですが、AIは確実に軍事分野でものすごい進化を遂げています。それは、従来の戦争の概念や社会を根本から覆す可能性を秘め、人類存亡に関わる技術でありながら、それを制御する技術も思想も国際的な合意も、その進化の速度に追いついていないことがとても不安です。『2001年宇宙の旅』（1968）で提議されたAI・HAL-9000に倫理観を持たせる方法は、果たして見つかるのでしょうか？
「人類が幸せに生き永らえるために、AIを捨て去る方法は？」とChatGPTに尋ねたら、どんな答えが返ってくるのでしょうね。
『2001年宇宙の旅』のHAL-9000のインターフェイス
2023年5月11日
奈良県立美術館館長 籔内佐斗司