にほんブログ村 政治ブログへ 人気ブログランキングへ
最初のページはこちらです。

2016年09月16日

AIの活用に徹底したリスク管理が要求される理由

「2016年は、われわれがこれまで構築してきた未来
技術立ち上げにとって、重大な年になる」──。米Fac
ebookのマーク・ザッカーバーグCEOは1月6日(現
地時間)、同社の年頭所感を自身のFacebookでこ
う語った。

 同氏は“未来技術”として、VR(仮想現実)、Intern
et.orgの取り組み、AI(人工知能)の3つを挙げた。

世界中でこれらの技術に対する開発に多額の資金が
投入されている。

この中でAIについては、他の2つと異なり人類の未来
に大きなマイナスの影響をもたらすリスクは否定でき
ない。

AI以前のプログラムにおいては、人間が目的に応じ
計画的に設計し構築してきた。

そこではバグによる意図せぬ誤作動はあっても、プロ
グラムが勝手に動くことはなかつた。

しかし、AIはビッグデータを通じ大量のデータから
分で物事を分類し、ルール(特量と言われる)を
見つけ出す「ディープラーニング(深層学習)」という
技術が軸となっている。

この方法だと、人間がAIを完全にコントロールするこ
が難しく、AIに与えた目標以外のところで、意図せ
ぬ価値観を持つ可能性を否定できない。

以前、AIがヒトラーを肯定する意見をもったという記
事がでていたが、人間がコントロールできないビッグ
データを通じ、AIがルールを見つけ出す手法をとる
限り、AIが人間と異なるルールを生み出すリスクは
防げない。

AIがネットを通じ、より多くの機器と接続され、人間生
の中に浸透するようになれば、AI暴走のリスクを回
避する為の仕組みを組み込むことは不可欠である。

核兵器の運用にAIを利用するようになれば、人類滅亡
も絵空事では済まないかもしれない。


はげみになりますので、クリックをお願いします

にほんブログ村 政治ブログへ 人気ブログランキングへ このエントリーをはてなブックマークに追加 follow us in feedly
【リスク管理の最新記事】
posted by ドクター国松 at 10:12 | Comment(0) | TrackBack(0) | リスク管理 | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント:

※ブログオーナーが承認したコメントのみ表示されます。
この記事へのトラックバックURL
http://blog.seesaa.jp/tb/441972311
※ブログオーナーが承認したトラックバックのみ表示されます。

この記事へのトラックバック