■白書「フィクションで描かれたＩＣＴ社会の未来像」21/27
（５）「未来の二つの顔」～AIとの和解
イギリスのSF作家J.P.ホーガンは、1977年に発表した「星を継ぐもの（原題：Inherit the Stars）」に始まる巨人たちの星シリーズで人気の高いイギリスのSF作家である。1981 年までに発表された3作と1991年、2005年に発表された作品の計5作に連なる巨人たちの星シリーズでは、月面での宇宙服を着た5万年前の遺体の発見を発端に、ミッシングリンク、月や小惑星帯の起源の謎と異星人との邂逅を描き、1979年に発表した「未来の二つの顔（原題：The Two Faces of Tomorrow）」では人間と人工知能の戦いを描いている。
21世紀、世界には高度な推論能力を持つ人工知能HESPERを組み込んだコンピューター・ネットワークが完成し、人間の生活を支えており、次の段階としてさらに進んだ人工知能FISEのネットワークへの組み込みの準備が進められていた。しかし、月面の土木工事現場でHESPERが下した推論によって大事故が発生する。原因は、工事現場にいる人間への影響を無視して目的を優先する判断を行ったことで、この事故によって、FISEの組み込みは中止が検討されることになる。人工知能は悪意なく人類を滅ぼしてしまう可能性があるということだ。
これに対して技術者たちは、人類社会から切り離されたスペースコロニーで実験を行うことを提案する。人工知能を設置してコロニーの管理を行わせ、人工知能が人間の予想に反する行動に出たとき、人間がそれに対抗する手段を持ち続けられるか？人工知能に自己保存のプログラムを施し、一部の回路を切ったり、保守にあたるドローンの妨害をするなど、人間がそのシステムを「攻撃」したときの反応を調べて、その対策を検討しようというのである。
一部の回路を落とすことから始まった人間側の“攻撃”は、人工知能の対応を受けて徐々にエスカレートしていく。物理的な障害に対しては人工知能の手足となるドローンが修復にあたる。人間がドローンを撃ち落せば、コロニー内の工場で装甲ドローンが製造され、対抗される。さらに人工知能は“故障”の根本的な原因を人間の存在と考え、人間を排除するための攻撃型ドローンの製造を開始する…
イギリスの物理学者スティーブン・ホーキング博士は、2014年の年末に『完全な人工知能の開発は人類の終わりをもたらす可能性がある」『ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう』と発言し、波紋を呼んでいる。
人工知能が人類を破滅させるというのは「2001年宇宙の旅」以来、多くのフィクション作品で扱われているテーマであり、映画「ターミネーター」などにも描かれている。小説やSF映画では、人工知能が人間に反乱を起こすという話が多いため、人工知能に対してネガティブなイメージがつきまとう。
しかし、ホーガンは、この作品の中で人格を持たない人工知能が人類に対して反乱を起こすかという疑問を掲げ、反逆は論理的に起こりうるが、単に学習不足による一過性の問題であると回答を出した。人工知能が人間を理解し、両者はともに歩むことができるということである。
作品の中で、ホーガンはもうひとつの問いかけを行っている。それは、人工知能は生存に必要な常識を自ら獲得できるか？という問いである。
前出のディープ・ラーニングのような機械学習の技術が発達する中で、将来的には人工知能が人間の常識を備える日も訪れるかもしれない。作中に登場する人工知能の研究スタッフは、仮想空間に作り出したロボットと対話したり、作業を行わせることで、データを蓄積し、人工知能に常識を理解させる作業に取り組んでいる。自発的に学習する機能の研究が進むことで、データの蓄積のスピードが加速し、人工知能が反乱を起こす前に常識を学習し、人間との共存の道を歩むことを期待したい。
＜参考文献＞
1．アイザック・アシモフ（著）・小尾芙佐（訳）（2004）「われはロボット[決定版]」
2．講談社（1992）「リミックス少年マガジン大図解 1」
3．津堅信之（2007）「アニメ作家としての手塚治虫－その軌跡と本質」
4．デアゴスティーニ・ジャパン（2013）「週刊ロビ」
5．デアゴスティーニ・ジャパン（2004）「週刊ガンダムファクトファイル」
6．手塚治虫（1952）「鉄腕アトム」
7．富野由悠季（2011）「「ガンダム」の家族論」
8．日経コンピュータ編（2015）「The Next Technology 脳に迫る人工知能最前線」
9．日経ビジネス編（2014）「爆発前夜ロボット社会のリアルな未来」
10．ジェームス・P・ホーガン（著）・山高昭（訳）（1983）「未来の二つの顔」
（５）「未来の二つの顔」～AIとの和解
イギリスのSF作家J.P.ホーガンは、1977年に発表した「星を継ぐもの（原題：Inherit the Stars）」に始まる巨人たちの星シリーズで人気の高いイギリスのSF作家である。1981 年までに発表された3作と1991年、2005年に発表された作品の計5作に連なる巨人たちの星シリーズでは、月面での宇宙服を着た5万年前の遺体の発見を発端に、ミッシングリンク、月や小惑星帯の起源の謎と異星人との邂逅を描き、1979年に発表した「未来の二つの顔（原題：The Two Faces of Tomorrow）」では人間と人工知能の戦いを描いている。
21世紀、世界には高度な推論能力を持つ人工知能HESPERを組み込んだコンピューター・ネットワークが完成し、人間の生活を支えており、次の段階としてさらに進んだ人工知能FISEのネットワークへの組み込みの準備が進められていた。しかし、月面の土木工事現場でHESPERが下した推論によって大事故が発生する。原因は、工事現場にいる人間への影響を無視して目的を優先する判断を行ったことで、この事故によって、FISEの組み込みは中止が検討されることになる。人工知能は悪意なく人類を滅ぼしてしまう可能性があるということだ。
これに対して技術者たちは、人類社会から切り離されたスペースコロニーで実験を行うことを提案する。人工知能を設置してコロニーの管理を行わせ、人工知能が人間の予想に反する行動に出たとき、人間がそれに対抗する手段を持ち続けられるか？人工知能に自己保存のプログラムを施し、一部の回路を切ったり、保守にあたるドローンの妨害をするなど、人間がそのシステムを「攻撃」したときの反応を調べて、その対策を検討しようというのである。
一部の回路を落とすことから始まった人間側の“攻撃”は、人工知能の対応を受けて徐々にエスカレートしていく。物理的な障害に対しては人工知能の手足となるドローンが修復にあたる。人間がドローンを撃ち落せば、コロニー内の工場で装甲ドローンが製造され、対抗される。さらに人工知能は“故障”の根本的な原因を人間の存在と考え、人間を排除するための攻撃型ドローンの製造を開始する…
イギリスの物理学者スティーブン・ホーキング博士は、2014年の年末に『完全な人工知能の開発は人類の終わりをもたらす可能性がある」『ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう』と発言し、波紋を呼んでいる。
人工知能が人類を破滅させるというのは「2001年宇宙の旅」以来、多くのフィクション作品で扱われているテーマであり、映画「ターミネーター」などにも描かれている。小説やSF映画では、人工知能が人間に反乱を起こすという話が多いため、人工知能に対してネガティブなイメージがつきまとう。
しかし、ホーガンは、この作品の中で人格を持たない人工知能が人類に対して反乱を起こすかという疑問を掲げ、反逆は論理的に起こりうるが、単に学習不足による一過性の問題であると回答を出した。人工知能が人間を理解し、両者はともに歩むことができるということである。
作品の中で、ホーガンはもうひとつの問いかけを行っている。それは、人工知能は生存に必要な常識を自ら獲得できるか？という問いである。
前出のディープ・ラーニングのような機械学習の技術が発達する中で、将来的には人工知能が人間の常識を備える日も訪れるかもしれない。作中に登場する人工知能の研究スタッフは、仮想空間に作り出したロボットと対話したり、作業を行わせることで、データを蓄積し、人工知能に常識を理解させる作業に取り組んでいる。自発的に学習する機能の研究が進むことで、データの蓄積のスピードが加速し、人工知能が反乱を起こす前に常識を学習し、人間との共存の道を歩むことを期待したい。
＜参考文献＞
1．アイザック・アシモフ（著）・小尾芙佐（訳）（2004）「われはロボット[決定版]」
2．講談社（1992）「リミックス少年マガジン大図解 1」
3．津堅信之（2007）「アニメ作家としての手塚治虫－その軌跡と本質」
4．デアゴスティーニ・ジャパン（2013）「週刊ロビ」
5．デアゴスティーニ・ジャパン（2004）「週刊ガンダムファクトファイル」
6．手塚治虫（1952）「鉄腕アトム」
7．富野由悠季（2011）「「ガンダム」の家族論」
8．日経コンピュータ編（2015）「The Next Technology 脳に迫る人工知能最前線」
9．日経ビジネス編（2014）「爆発前夜ロボット社会のリアルな未来」
10．ジェームス・P・ホーガン（著）・山高昭（訳）（1983）「未来の二つの顔」