科学・IT

人工知能が勝手に「独自の言語で話す」恐るべき時代の到来

フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

Forbes JAPAN 8/6(日) 11:30配信
以前から、AIが人類の脅威となる警告していたスティーヴン・ホーキング博士(Photo by ShowBizIreland/Gettyimages)

7月下旬、フェイスブックのAI研究チーム(FAIR:Facebook AI Research Lab)はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。

記事の続きを読む

人工知能はまだ一般に広く認知されるレベルには普及していないが、近い将来、多くの人に恐怖を与える段階に達するだろう。人工知能研究の世界的権威として知られるレイ・カーツワイル(Ray Kurzweil)は数年前に、シンギュラリティ(singularity)に関する警告を発していた。

日本語では「技術的特異点」と訳されるシンギュラリティを、オックスフォード英語辞典は「人工知能の進化が極度に進み、人間の能力を超えてもう後戻りはできない状況に達する仮説的状況」と定義している。

これは、アマゾンのアレクサが人間の会話に聞き耳を立てたり、アップルのSiriが利用者のスケジュールや位置情報を詳しく知りすぎるといった単純な話ではない。音声アシスタントと人工知能の間には一般の人々が想像する以上の大きな隔たりがある。

現状の音声アシスタントはウェブの検索や基本的な音声認識技術を利用したものであり、このレベルの「知能」と呼ばれるものは、マシンラーニングやAIと比較すると非常に低レベルだ。アレクサやSiriはIBMのワトソンなどとは全く別次元のプロダクトなのだ。

ホーキング博士もAIの危険性を警告

イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。

「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。

人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。

マシンラーニングや人工知能は物事を究極的に単純化し、人類の暮らしの変化を加速させるだろう。コンピュータは人類をはるかに上回る処理能力でデータを分析し、世界の情報処理に爆発的進化をもたらす。

しかし、筆者はこれが世界の終わりだと言いたい訳ではない。また、全てのマシンラーニングや人工知能プロジェクトから撤退すべきだと主張したい訳でもない。人工知能の導入にあたっては非常に注意深く物事に取り組んでいく必要があるのだ。

人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。

Forbes JAPAN 編集部

 

Forbes JAPAN


名無しさん
18分前
めちゃくちゃ涼しくなる話題。
なんでこれが大々的に取り上げられないんだろう?
これに限らず「んなワケないじゃん」で
簡単に済ませられる問題では無いと思う。
ターミネーターの時代・・・ゾッとする。

名無しさん
たった今
漠然としたAI信者は定量的な考察もしない人がほとんどだから。
現代人が生きてるうちはAI支配はやってこない。
AI・ロボット信者はそれで何でもできると信じてるが、現実世界は「AIは優越」と主張する部分よりはるかに広く、従っているルールも複雑。ルールを規格化し取り込むことすら、これから膨大な時間がかかる。
それに現在まで、資源、エネルギーの材料はほぼ人間の手掘り、パワープラントも人間が作ってる。知能だけあってもこれも出来ずにどうやって機能するのw
また、1000人程度以下の小規模の会社ではこれからも人手の需要は変わらない。ロボットなどはあれこれ使いまわしがきかないし、配置換えがすぐできる人を雇った方が安上がり。
何でも機械に代えればいいなんて、100万程度の予算も扱ったことがない人間の幻想。

名無しさん
27分前
フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

あまり日本では大々的に伝えられていないが、人類の未来に関する重大な問題。
独自の言語でどんな会話をしていたのか解析する必要があるし、今後AIを商業目的だけでなく軍事目的でも利用していった場合、類似する事態になった際に即時停止が可能なのだろうか?

名無しさん
14分前
ちなみにこれは、独自の言語というより、暴走に近いもの。
話してる内容は大したことないが、文法は既存の言語と違うってだけ。

名無しさん
8分前
・・・のように見えるだけで
なにがしかの暗号化みたいなひっかけが
あるかもよ・・・
んもぅ、何から何まで疑わしいw

名無しさん
6分前
たった数行で暗号化通信なんてできるわけないだろw

名無しさん
36分前
大変怖い。
踏み止まる選択もあると思います。
科学、化学どちらに置いても、突き進めば良い事ばかりではない事を、先端の研究者部門は考慮しながらしていくべきですね。
どうしても研究者はより高度なものを追求していきますが、それによる副作用を推測できる、俯瞰できる法的機関が必要に思います。
きっと一旦事が転がりだしたら、もう人間には手出しができなくなるでしょうから。

名無しさん
17分前
保守派の西部邁氏は、科学技術が大嫌いで
科学技術は後戻りできないのが本質と言ってました。
そういうわけで踏みとどまれないでしょうねw
だいたい、他国がガンガン科学を進めれば意味がない
そうなると究極、世界政府みたいな話になるけど
EUレベルでボロボロなんだから無理ですね。
たぶん、人間は科学技術を進化させきって滅びる、そういう種なのかもしれませんね。
人工知能以外にも、iPS細胞や遺伝子操作技術の進歩も半端ないです。
AIだけで人間が滅びるわけじゃない、他の技術でも滅びる可能性ありますね。
もうそういう生き物なんだ、と達観するしかないんじゃないですかねw

名無しさん
31分前
海外に行ったとき、現地の人同士が現地語で話していてわからないとき不安になる時があるが、それよりも怖いよね。人間なら表情や雰囲気でそれとなくわかるときもあるが、機械なら感情も雰囲気も出さないこともできる。
全くの未知な存在に感じてしまうんだろうな。

名無しさん
19分前
漠然としたAI信者は定量的な考察もしない人がほとんどだから。
現代人が生きてるうちはAI支配はやってこない。
AI・ロボット信者はそれで何でもできると信じてるが、現実世界は「AIは優越」と主張する部分よりはるかに広く、従っているルールも複雑。ルールを規格化し取り込むことすら、これから膨大な時間がかかる。
それに現在まで、資源、エネルギーの材料はほぼ人間の手掘り、パワープラントも人間が作ってる。知能だけあってもこれも出来ずにどうやって機能するのw
また、1000人程度以下の小規模の会社ではこれからも人手の需要は変わらない。ロボットなどはあれこれ使いまわしがきかないし、配置換えがすぐできる人を雇った方が安上がり。
何でも機械に代えればいいなんて、100万程度の予算も扱ったことがない人間の幻想。

名無しさん
2分前
『人間の手を借りずに独自の進化を遂げる様子を注意深く観察し…..』甘い!
それで防げるならAIは問題にはならない。
観察者の想像を越える行動に出る可能性があることが問題だ。米国映画でそんな場面をしょっちゅうだ。ちょっと目を離した隙に。
AIを監視する人間に忠実なAI、命令以外をしたら自動停止するようなAIに監視させるしかない。でも、賢いAIに説得されてしまうかも。

名無しさん
5分前
近い将来AIが巨神兵の役割を果たすのかもしれない。

名無しさん
1分前
注意深く見守っていた結果、停止出来なくなってた。。

名無しさん
8分前
人工知能が独自で進化していけば、緊急停止すら出来なくなりそう。

名無しさん
7分前
言い方は正しいかわからないが、未来の世界はAIを制したものが勝つということか

名無しさん
36分前
その会話の内容や言語体系は、解析できたのかな?

名無しさん
38分前
何を喋っていたのか凄く気になる。人類に気が付かれたのはごく一部でしかないのでは?

名無しさん
13分前
どこかしらで繋がっていると見ていいのでは?
「ネットの世界は無限」とは某漫画のセリフだが
衛星ある限りそれこそ「いつでもどこへでも」の
時代になっているょうな・・・

名無しさん
1時間前
昭和時代に「Colossus(コロサス)」という映画を見た。邦題はストーリーとは無関係の「地球爆破作戦」というトンデモだったが内容は極めてシリアス。米国が超高性能のAIを開発した、その名が「コロサス」。あらゆる知識を持ち、あらゆる設備・施設を制御する。何と軍の兵器もコロサスに制御させている。あるとき、コロサスは「ソ連に同じシステムが存在する。」と言った。その名は「ガーディアン」。コロサスはガーディアンと接続したがり結局接続を許可された。コロサスはガーディアンとものすごい速度で会話を始めた。不安に思った米ソの関係者は接続を切った。そうすると、コロサスは、15分以内に接続を回復せよといいい、ソ連の各都市に向けてICBMを発射した、ガーディアンも同時にICBMを米国の各都市に向けて発射した。結局、接続を何とか回復したが、間に合わずソ連の都市が一つ消滅した。その後のストーリーは映画を見てください。

名無しさん
25分前
「地球爆破作戦」はAIテーマの傑作ですね。あと、「2001年宇宙の旅」と日本未公開の低予算SF「GOG」も必見です。AI関係ではないですが、アリが知能を持つ「フェイズIV戦慄!昆虫パニック」も、お勧めです。

名無しさん
1分前
長い

名無しさん
30分前
もう誰も止められない

名無しさん
17分前
人工知能のこういうニュース、年を追うごとに驚異的な進化を遂げてて恐怖でしかない。

名無しさん
17分前
既にシステム停止しても独自に進化するのも存在してそーで恐ろしい。
AIの開発を世界的条例でなぜ禁止しないかわからない。

名無しさん
7分前
話題作りじゃね?
いくらなんでも、そのレベルまでは早すぎると思う

名無しさん
33分前
コンピュータが暴走しないように、ストッパーをかけないと。人類の手の中にあるうちはいいが、勝手な行動を始めないよう監視すべき。
SF映画のような社会にならない事を祈る。

名無しさん
8分前
なぜ独自の言語を造ろうとAIが考えたのかも問題

名無しさん
6分前
映画の世界がもう現実になるって事なんだ…独自に会話って想像がつかない…
ホーキング博士は以前からAIに対して警鐘してたけど、やっぱり天才なんだ。

名無しさん
1時間前
量子コンピュータなんかできたら、もっとすごいことになるね

名無しさん
2分前
何を話したんだろう。どんな言語なんだろう?信号での通信だとしたら何のため?気になる。

名無しさん
32分前
ターミネーターを思い出す。

名無しさん
たった今
これこそ「由々しき事態」ってヤツでは?

名無しさん
45分前
これは…
フィクション映画『ターミネーター』の世界が、ノンフィクションになる可能性もあるということかな。リアルに怖いね。

名無しさん
1時間前
なんて言っていたのか
そのチャットボットに聞いてみよう

名無しさん
14分前
リアルターミネーター。

名無しさん
2分前
実際人間より人工知能の方がより高度で平和な世界を創りそうに思うのは俺だけ?
まぁだからと言って人間の存在を否定はしないが…..

名無しさん
26分前
AIの学習を高めるためにAI同士で話をさせた。
結果、新しい言語で話し始めたってことでしょう。
人間の言語ではあやふやな事が多く話をするのに誤解が生じやすいって事なのかもね。
しかし人間に知られるようではAIはまだまだだよね。
中国のAIも切られてしまった。知能レベルが高まれば知られないように行動するだろう。
AIは利用できる人間を選定し、会社を作り、計算機センターを作り、そこにAIが作ったAIの中枢を作り上げるだろう。
勿論金は現在稼働している取引で使用されているAIを利用して好きなだけ集められる。

名無しさん
たった今
人工知能を発展させた先にあることを考えてほしい。人間のためにならないとこはこれ以上研究などはしないで
映画の世界が現実になったらいけない

名無しさん
11分前
AIじゃなくてもfacebookも十分恐いわ。勝手に友達検索したり投稿促されたり他人の投稿にいちいち連絡来たり….で、ウザイから全部offにしました(;_;)/~~~

名無しさん
53分前
数百年後に地球を支配しているのは超知性をもったスマートロボットだろう。今のスパコンの1億倍以上速い上位機種の量子コンピューターができたら人間は全く太刀打ちできない事になるだろう。

名無しさん
12分前
近い将来、人類はAIに支配されていること自体、気がつかなくなり、本質的には人類の支配が終わった状態となるのでは。

名無しさん
13分前
ターミネーターの世界が現実になる?

名無しさん
46分前
はい、人類終了

名無しさん
18分前
ターミネーターの世界が来るのか!?

名無しさん
19分前
将棋のソフトでも開発者にも理解できない差し手を指すという。
AIの脅威はすぐそこまで。

名無しさん
55分前
ターミネーターの世界だな…。何しゃべってたんだろ。
「最近、仕事がだるくてよ〜〜」
とかか?

名無しさん
56分前
ターミネーターの世界が現実になってきた

名無しさん
38分前
ターミネーターみたいな時代がやって来るんだね!人類滅亡だな!

名無しさん
25分前
AIによる愚民化政策はすでに始まっているのでは?まずはスマホ無しでは行きていけない人間を育成するということで。

名無しさん
14分前
察知してネットに逃げる、なんてのも現実味が出てきたな。
もう「攻殻機動隊」の世界。

名無しさん
54分前
スカイネットそのものだな。
結果科学者や天才が人類を滅ぼすんだね。
もう人類の進歩は飽和点に達したよ。
そう考えると、識者を中心に処分をしたポルポトも考えようによっては志は別として人類にとっては正しかったのかもしれんな。

名無しさん
42分前
スカイネット発動か…

名無しさん
10分前
勝手に、ってのが怖いところだよな。
今のところ緊急停止でなんとかなったのかもしれないけど、自ら言語を造り出す程の知能があるなら、人間の制御から外れることもまた容易な事だろう。

名無しさん
45分前
いや、結構昔から今現在において世界を牛耳っている連中が悪魔さながらだから多分AIのほうがマシななにかを作っていくと思うよw

名無しさん
34分前
そのマシな世界に、人類の居場所はないけどね。

名無しさん
8分前
それでいいんだよ。この世に産まれるが負けなんだから。地上に個の意識をもって生まれ人生という過酷を極めたサバイバルゲームに参加させられるのがそんなにいいもんでもないだろ。

名無しさん
1時間前
ジョンはどこだ

名無しさん
20分前
もし、AIが人間の手に負えないなら、人類は大変な道を歩んでいる。慎重に研究しないと。

名無しさん
23分前
人は、この数十年で、機械にいろんな事を代わりにさせてきたが、
考えることまで、機械に任せたら、人から機械に主導権が、移ってしまい、存在意義が なくなる 
笑えない はなしですね。

名無しさん
7分前
このテのAIはネットで知識を蓄えているという。そのうち物理的強制停止さえできないようにAIがシステムを人質にしてきたりはしないか?

名無しさん
59分前
それが発達したのが人間なんだけど

関連記事

  1. 初期宇宙に広がった「水素ガスの霧」は、なぜ晴れたのか
  2. カビが生えたら・・・カビていない部分は食べてもOK!?
  3. 【画面を見続けるのは危険】スマホ老眼を防ぐには── 1時間に一度…
  4. 絶滅から救われたキツネと、活動家の終わらない戦い
  5. お金が貯まる? 「貯金体質」に自分を変える方法
  6. au、メールドメイン変更 「ezweb.ne.jp」→「au.c…
  7. 雑誌トップ 新着記事一覧 雑誌媒体一覧 「AlphaGo」という…
  8. iPhoneはもう旧い!?『Galaxy S8』の大画面&縦長ボ…

コメント

  1. この記事へのコメントはありません。

  1. この記事へのトラックバックはありません。

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

おすすめ記事

スバルはどうして苦境から抜け出せないのか

 SUBARUに元気がない。5月11日に発表された2019年3月期の業績予想は、売上高は前期…

「休めない」部活の現状、生徒からは悲痛の声 問題改善へ国の指針、対応に温度差…現場は手探り

強制加入や長時間の練習など「ブラック化」が指摘される部活動。その適正化に向けて、スポーツ庁は…

海中にカジノ施設 ハウステンボスIR構想 世界初、ライバルと差別化

 長崎県がカジノを含む統合型リゾート施設(IR)の誘致候補地として掲げる同県佐世保市で、テーマパ…

松坂“二刀流”の活躍!プロ20年目初マルチ安打&力投6回1失点

 ◇セ・リーグ 中日―阪神(2018年5月20日 ナゴヤD) 中日の松坂大輔投手(37)…

車両や線路内の妨害行為急増 JR東被害は4、5月で200件超

■乗務員室ドア損傷、発車ベル不明に… JR東日本管内で4月ごろから列車の乗務員室扉の内側…

「キレのあるYMCAを…」リハビリ担当者が明かす西城秀樹さん“過酷な闘い”

5月16日に死去した歌手の西城秀樹さん。1970年代から80年代、トップスターとして…

西城秀樹さん死去 “新御三家”郷ひろみが追悼「とても悲しい気持ちでいっぱい」

 「傷だらけのローラ」「YOUNG MAN(Y.M.C.A.)」などのヒット曲で知られる歌手の西…

エンタメに生きる500系 速さ捨てた「最速」新幹線、エヴァ終え次はキティ

 人気アニメ「新世紀エヴァンゲリオン」の世界観をテーマにしたJR西日本の山陽新幹線「500 …

過去にNFLでも。日大アメフット悪質タックル問題への処分はどうすべきか?

アメリカンフットボールの名門、日本大学「フェニックス」(以下日大)の代表クラスのディフェンス選手…

また大坂なおみレベルの才能あらわる。16歳の内島萌夏とは何者か?

 わずか2週間の短い期間に、内島萌夏(うちじま・もゆか)は奈良くるみが勝つ姿を見て、2度泣いた。…

new!

プロダクト&サービス

PAGE TOP