Sponsored Contents

Robotsの最新記事

Image credit:
Save

陰惨画像に晒されサイコパス化したAI「ノーマン」。MIT、偏った学習ではAIも鬱屈すると証明

偏る方向によっては「ヲタAI」も生まれるということか

Munenori Taniguchi
2018年6月8日, 午後06:45 in Robots
555シェア
152
233
0
170

連載

注目記事

新型iPhone、アップルにとって最大の旨味はストレージの利益?部品の値下げが価格に反映されてないとのうわさ

新型iPhone、アップルにとって最大の旨味はストレージの利益?部品の値下げが価格に反映されてないとのうわさ

Kiyoshi Tane, 1 時間前
View
人工知能(AI)が暴走して世界を恐怖に陥れるという物語設定は、SFの定番テーマのひとつとして扱われてきました。しかし、いまやそれも現実のものになりつつあるようです。MITの研究者は「精神的に異常な人工知能」を作り上げたと発表しました。

アルフレッド・ヒッチコック監督の映画「サイコ」にちなみ"Norman"と名付けられたこのサイコパスAIは、インターネット掲示板サイトRedditにアップロードされた「暴力的で陰惨な」...ストレートに言えばグロ画像を延々と参照させることで、ロールシャッハテストにおいておおよそまともではない返答を返すようになったとのこと。

ロールシャッハテストとは、インクを垂らした紙を2つに折りたたんで広げなおし、そこにできあがった模様が何に見えるかを回答させて被験者の思考や障害の度合いを推定する試験方法。

これを通常の画像で鍛えた通常のAIとノーマンに見せて比較したところ、たとえばある模様では通常のAIが「花を生けた花瓶」と回答したところをノーマンは「射殺された男性」との結果を得ました。また別の模様をみせれば、通常AIは「傘を掲げた人」、ノーマンは「悲鳴をあげる妻の前で射たれた夫」、さらに別の模様では、通常AIの「隣り合う男女」に対して「建物から飛び降りる妊婦」と答える始末。

書いているこちらまで気分が滅入ってしまいそうなノーマンの発想には、(研究者がそのよう仕向けたとはいえ)よくもここまで悲惨で鬱屈した思考状態に追い込んだものだと思わざるを得ません。

この研究は、機械学習が入力される情報によって大きく左右されること、AIのアルゴリズムのバランスが崩れていると思われる場合、むしろアルゴリズムを形成する材料となったデータそのものに偏りがあるということを証明するために行なわれました。

そして、これはAIが現実社会のあらゆる仕事や公共サービスに浸透するにつれ、どこかで有意な結果を招く可能性があることを示していると考えられます。ノーマンの異常な思考による回答は、人類の将来に訪れるかもしれないなにかを予見させる...とは考えたくないものです。

555シェア
152
233
0
170

Sponsored Contents