AI倫理学 AI時代の生き方 リスク管理 独白

【AI倫理学のすゝめ】悪のAIが人類を滅ぼす?

投稿日:

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。

人工知能(以下AI)が悪用されたら、あるいは暴走したら、という懸念が最近あちこちで沸き起こってきました。

確かに古くから多くのSFで、AIが発達しすぎて人間は何もする必要がなくなり、AIは永世大統領となって、恐ろしいまでに世の中を効率化・最適化し、人間はAIに支配されて家畜のように生きる世界を描いています。

また、映画「ターミネーター」のアーノルド・シュワルツェネッガーが演じた、逃げても破壊してもどこまでも追いかけてくるロボットも、ほとんどAIというよりホラーでしたが、なかなか鮮烈な印象でした。

ターミネーター [Blu-ray]

●そもそもロボットは人類の幸福に貢献するものである

AIを利用した製品やサービスの大半は、人間型、動物型、単機能型、実体はなく文字や音声のみのものなど形態を問わず、ロボットという概念に括られるものだといえます。

そのカテゴリーでいえば、科学者であり、いくつもの名作を残した偉大なSF作家でもあったアイザック・アシモフが作品中で示した「ロボット三原則」が思い起こされます。

第一法則:ロボットは人間に危害を加えてはならない.またその危険を看過することによって,人間に危害を及ぼしてはならない

第二法則:ロボットは人間に与えられた命令に服従しなくてはならない.ただし,与えられた命令が第一法則に反する場合はこの限りではない

第三法則:ロボットは前掲の第一法則,第二法則に反するおそれのない限り,自己を守らなければならない

なぜロボットを作るのか。技術者の知的好奇心や経営者がコストを減らしたいなど直接の動機があるにせよ、大目的は明白で人類の幸福に貢献するためのものです。

もっとなかよしRobi Jr.

 

●人間に危害を加えるAI

では全てのAIやその土台である情報技術が、常に人類の幸福に貢献しているのか。

たとえば、大規模な機関投資家がもつAI自動売買システム。何かネガティブなイベントがあると一斉に売りを出し、実体以上にマーケットを激しく動かします

システムは何の感情も感じず、条件が揃ったので損切りのシグナルに沿って売り注文を出しているだけでしょうが、我々生身の投資家は冷や汗かきつつ心臓をバクバクさせながら右往左往させられます。

また殺人の道具である兵器の世界。戦艦、飛行機、戦車、装甲車などの乗り物に加え、自動追尾するミサイル、魚雷、銃のスコープなど多くの機器の制御用に使われています。

いずれも人類という視点で見た場合には害になるものですが、「自国」とか「自社」という限られた範囲で見た場合には、前者は利益をもたらし、後者は人間の犠牲を最小化できるという意味では、当事者のみには役に立つという訳です。

●AIの倫理学やリスク管理へ

テクノロジーと倫理という議論は、医療分野をはじめ社会的に重要ないくつかの分野ですでに確立されています。

今後の重要な方向性としては、工学や人文科学の一分野として、「AI倫理学」が湧き上がってくることになるでしょう。これはすでに今議論をリードする専門家や識者の著作を見ると、ほぼ触れられているので、動き始めています。

もう1つ、AIシステムをデザインする時のリスク管理の問題として、期待しない動作、予期せぬ動作、人間に害を与える動作をした場合にどう対応するのか。

たとえば禁止の概念をあらかじめ設定しておいて自律的に修正するのか、荒っぽい方法だとバイクのキルスイッチみたいに強制的に動作を止める仕組みを実装しておくのか、などが必須になるでしょう。

●悪意を持った人間に利用される場合

AIの倫理やリスク管理に関する議論を進め、実際の設計に反映させていくのはこれから着々と進展していくでしょう。

それでも、(これもベタな映画や小説にありがちな世界ですが)世界征服を企む悪の独裁者やマッドサイエンティスト、とまで行かなくても、最初から悪意のある人間が確信犯としてAIを悪用するというリスクは残ります。

また明白な悪意がなくても、人の言葉や行動から学ぶAIロボットがサイコパスのような異常人格の人をモデルとして学習した場合、かなり社会にとっては迷惑となる存在になることは容易に想像できます。

現実性の高いところでは、AIを活用した賢いコンピュータウィルスも、ほどなく出てくるはずです。

ウィルス対策ソフトもAI技術を活用して臨機応変に対応できるようになりつつあり、やがてサイバー空間でAI vs. AIの攻防が日々行われるようになりそうです。

これまでも、ネットでの犯罪や迷惑行為について、法制化は後から追いかけてきていました。

AIを安全に活用するためには、倫理やリスク管理の問題だけでなく、法律学も巻き込んだ議論が今後必要になってくるでしょう。

-AI倫理学, AI時代の生き方, リスク管理, 独白

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA


関連記事

no image

AI (人工知能)で儲けるべし

はじめまして。IT/経済ジャーナリストで投資家の渡辺龍一郎です。 2017年中盤くらいより、人工知能が囲碁や将棋で人間を負かしたり、自動運転が実現できそうと言うニュースが流れてその技術の進歩が大きく取 …

no image

【AIサバイバル術】AIに仕事を奪われる前に資本家になろう

こんにちは。IT/経済ジャーナリスト、投資家でミニ資本家の渡辺です。 AIの普及で失業する人が240万人という試算が出たことを紹介しました。 ご参考:【AIサバイバル術】AIの普及で2030年までに2 …

no image

【仕事戦略】ワークライフバランスを考えるときに考慮すべき3つのスタンス

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 将来的にはベーシックインカムのような制度が作られ、労働しなくても最低限の生存は可能になるかもしれません。 とりあえず今は、ある程度の資産を作っ …

会議後の30分で仕上げる議事録の書き方

自分の部署に他部署から若手の人が異動してきました。経営管理に関わる仕事なので、まずは内部のブレストみたいな打ち合わせはともかく、定例など公式な会議での議事録を書くようお願いしました。 すると、「会議を …

副業推奨は終身雇用崩壊の序曲 〜今、自分たちが置かれた状況をどう突破するか(参考書も掲示)

こんにちは。IT/経済ジャーナリストで投資家の渡辺です。 最近、副業解禁に関する議論や記事をよく目にすると思いませんか? たとえば、こんな記事がよく読まれているようです。 https://newspi …