AI倫理学 AI時代の生き方 リスク管理 独白

【AI倫理学のすゝめ】悪のAIが人類を滅ぼす?

投稿日:

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。

人工知能(以下AI)が悪用されたら、あるいは暴走したら、という懸念が最近あちこちで沸き起こってきました。

確かに古くから多くのSFで、AIが発達しすぎて人間は何もする必要がなくなり、AIは永世大統領となって、恐ろしいまでに世の中を効率化・最適化し、人間はAIに支配されて家畜のように生きる世界を描いています。

また、映画「ターミネーター」のアーノルド・シュワルツェネッガーが演じた、逃げても破壊してもどこまでも追いかけてくるロボットも、ほとんどAIというよりホラーでしたが、なかなか鮮烈な印象でした。

ターミネーター [Blu-ray]

●そもそもロボットは人類の幸福に貢献するものである

AIを利用した製品やサービスの大半は、人間型、動物型、単機能型、実体はなく文字や音声のみのものなど形態を問わず、ロボットという概念に括られるものだといえます。

そのカテゴリーでいえば、科学者であり、いくつもの名作を残した偉大なSF作家でもあったアイザック・アシモフが作品中で示した「ロボット三原則」が思い起こされます。

第一法則:ロボットは人間に危害を加えてはならない.またその危険を看過することによって,人間に危害を及ぼしてはならない

第二法則:ロボットは人間に与えられた命令に服従しなくてはならない.ただし,与えられた命令が第一法則に反する場合はこの限りではない

第三法則:ロボットは前掲の第一法則,第二法則に反するおそれのない限り,自己を守らなければならない

なぜロボットを作るのか。技術者の知的好奇心や経営者がコストを減らしたいなど直接の動機があるにせよ、大目的は明白で人類の幸福に貢献するためのものです。

もっとなかよしRobi Jr.

 

●人間に危害を加えるAI

では全てのAIやその土台である情報技術が、常に人類の幸福に貢献しているのか。

たとえば、大規模な機関投資家がもつAI自動売買システム。何かネガティブなイベントがあると一斉に売りを出し、実体以上にマーケットを激しく動かします

システムは何の感情も感じず、条件が揃ったので損切りのシグナルに沿って売り注文を出しているだけでしょうが、我々生身の投資家は冷や汗かきつつ心臓をバクバクさせながら右往左往させられます。

また殺人の道具である兵器の世界。戦艦、飛行機、戦車、装甲車などの乗り物に加え、自動追尾するミサイル、魚雷、銃のスコープなど多くの機器の制御用に使われています。

いずれも人類という視点で見た場合には害になるものですが、「自国」とか「自社」という限られた範囲で見た場合には、前者は利益をもたらし、後者は人間の犠牲を最小化できるという意味では、当事者のみには役に立つという訳です。

●AIの倫理学やリスク管理へ

テクノロジーと倫理という議論は、医療分野をはじめ社会的に重要ないくつかの分野ですでに確立されています。

今後の重要な方向性としては、工学や人文科学の一分野として、「AI倫理学」が湧き上がってくることになるでしょう。これはすでに今議論をリードする専門家や識者の著作を見ると、ほぼ触れられているので、動き始めています。

もう1つ、AIシステムをデザインする時のリスク管理の問題として、期待しない動作、予期せぬ動作、人間に害を与える動作をした場合にどう対応するのか。

たとえば禁止の概念をあらかじめ設定しておいて自律的に修正するのか、荒っぽい方法だとバイクのキルスイッチみたいに強制的に動作を止める仕組みを実装しておくのか、などが必須になるでしょう。

●悪意を持った人間に利用される場合

AIの倫理やリスク管理に関する議論を進め、実際の設計に反映させていくのはこれから着々と進展していくでしょう。

それでも、(これもベタな映画や小説にありがちな世界ですが)世界征服を企む悪の独裁者やマッドサイエンティスト、とまで行かなくても、最初から悪意のある人間が確信犯としてAIを悪用するというリスクは残ります。

また明白な悪意がなくても、人の言葉や行動から学ぶAIロボットがサイコパスのような異常人格の人をモデルとして学習した場合、かなり社会にとっては迷惑となる存在になることは容易に想像できます。

現実性の高いところでは、AIを活用した賢いコンピュータウィルスも、ほどなく出てくるはずです。

ウィルス対策ソフトもAI技術を活用して臨機応変に対応できるようになりつつあり、やがてサイバー空間でAI vs. AIの攻防が日々行われるようになりそうです。

これまでも、ネットでの犯罪や迷惑行為について、法制化は後から追いかけてきていました。

AIを安全に活用するためには、倫理やリスク管理の問題だけでなく、法律学も巻き込んだ議論が今後必要になってくるでしょう。

-AI倫理学, AI時代の生き方, リスク管理, 独白

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA


関連記事

no image

【副業】税制に見る今後の生き方

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 ニッポンという国の借金が凄いというニュースと、その後に破綻の可能性があることを先日投資研究サイトの方で議論しました。 参考:国の借金と日銀人事 …

no image

【リブログ】ベーシックインカムが導入された世界(本田晃一さんブログより)

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 前向きな著作で元気付けてくれる、いつも明るい作家の本田晃一さんが働き方改革とベーシックインカムについて、簡潔に、でも結構本質的な内容をブログに …

no image

AIは野村監督の野球頭脳を持つのか? 〜AIピッチングマシンを有効活用するには

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 人工知能(AI)には、音声認識とか将棋プログラムのような、ある限られた範囲での特定の用途で使われるものと、会話するロボットなど特に範囲のない、 …

no image

【雑感】つらい仕事を辞めるための準備 〜森友に絡む財務官僚自死に思う

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 森友問題で、その案件を担当していた50代の担当者の方が悩んだ末に自死したことが報道されました。 森友事件の方は正直、編集人個人の活動や利益には …

10分で理解するGDPR(EU一般データ保護規則)の要点(概要から対応の要否、対応策まで)

あちこちで一般データ保護規則(GDPR, General Data Protection Regulation)の適用の恐ろしさが語られています。 GDPRとは、EUで施行される、個人データ(個人情報 …