科学・IT

人工知能が勝手に「独自の言語で話す」恐るべき時代の到来

フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

Forbes JAPAN 8/6(日) 11:30配信
以前から、AIが人類の脅威となる警告していたスティーヴン・ホーキング博士(Photo by ShowBizIreland/Gettyimages)

7月下旬、フェイスブックのAI研究チーム(FAIR:Facebook AI Research Lab)はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。

記事の続きを読む

人工知能はまだ一般に広く認知されるレベルには普及していないが、近い将来、多くの人に恐怖を与える段階に達するだろう。人工知能研究の世界的権威として知られるレイ・カーツワイル(Ray Kurzweil)は数年前に、シンギュラリティ(singularity)に関する警告を発していた。

日本語では「技術的特異点」と訳されるシンギュラリティを、オックスフォード英語辞典は「人工知能の進化が極度に進み、人間の能力を超えてもう後戻りはできない状況に達する仮説的状況」と定義している。

これは、アマゾンのアレクサが人間の会話に聞き耳を立てたり、アップルのSiriが利用者のスケジュールや位置情報を詳しく知りすぎるといった単純な話ではない。音声アシスタントと人工知能の間には一般の人々が想像する以上の大きな隔たりがある。

現状の音声アシスタントはウェブの検索や基本的な音声認識技術を利用したものであり、このレベルの「知能」と呼ばれるものは、マシンラーニングやAIと比較すると非常に低レベルだ。アレクサやSiriはIBMのワトソンなどとは全く別次元のプロダクトなのだ。

ホーキング博士もAIの危険性を警告

イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。

「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。

人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。

マシンラーニングや人工知能は物事を究極的に単純化し、人類の暮らしの変化を加速させるだろう。コンピュータは人類をはるかに上回る処理能力でデータを分析し、世界の情報処理に爆発的進化をもたらす。

しかし、筆者はこれが世界の終わりだと言いたい訳ではない。また、全てのマシンラーニングや人工知能プロジェクトから撤退すべきだと主張したい訳でもない。人工知能の導入にあたっては非常に注意深く物事に取り組んでいく必要があるのだ。

人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。

Forbes JAPAN 編集部

 

Forbes JAPAN


名無しさん
18分前
めちゃくちゃ涼しくなる話題。
なんでこれが大々的に取り上げられないんだろう?
これに限らず「んなワケないじゃん」で
簡単に済ませられる問題では無いと思う。
ターミネーターの時代・・・ゾッとする。

名無しさん
たった今
漠然としたAI信者は定量的な考察もしない人がほとんどだから。
現代人が生きてるうちはAI支配はやってこない。
AI・ロボット信者はそれで何でもできると信じてるが、現実世界は「AIは優越」と主張する部分よりはるかに広く、従っているルールも複雑。ルールを規格化し取り込むことすら、これから膨大な時間がかかる。
それに現在まで、資源、エネルギーの材料はほぼ人間の手掘り、パワープラントも人間が作ってる。知能だけあってもこれも出来ずにどうやって機能するのw
また、1000人程度以下の小規模の会社ではこれからも人手の需要は変わらない。ロボットなどはあれこれ使いまわしがきかないし、配置換えがすぐできる人を雇った方が安上がり。
何でも機械に代えればいいなんて、100万程度の予算も扱ったことがない人間の幻想。

名無しさん
27分前
フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

あまり日本では大々的に伝えられていないが、人類の未来に関する重大な問題。
独自の言語でどんな会話をしていたのか解析する必要があるし、今後AIを商業目的だけでなく軍事目的でも利用していった場合、類似する事態になった際に即時停止が可能なのだろうか?

名無しさん
14分前
ちなみにこれは、独自の言語というより、暴走に近いもの。
話してる内容は大したことないが、文法は既存の言語と違うってだけ。

名無しさん
8分前
・・・のように見えるだけで
なにがしかの暗号化みたいなひっかけが
あるかもよ・・・
んもぅ、何から何まで疑わしいw

名無しさん
6分前
たった数行で暗号化通信なんてできるわけないだろw

名無しさん
36分前
大変怖い。
踏み止まる選択もあると思います。
科学、化学どちらに置いても、突き進めば良い事ばかりではない事を、先端の研究者部門は考慮しながらしていくべきですね。
どうしても研究者はより高度なものを追求していきますが、それによる副作用を推測できる、俯瞰できる法的機関が必要に思います。
きっと一旦事が転がりだしたら、もう人間には手出しができなくなるでしょうから。

名無しさん
17分前
保守派の西部邁氏は、科学技術が大嫌いで
科学技術は後戻りできないのが本質と言ってました。
そういうわけで踏みとどまれないでしょうねw
だいたい、他国がガンガン科学を進めれば意味がない
そうなると究極、世界政府みたいな話になるけど
EUレベルでボロボロなんだから無理ですね。
たぶん、人間は科学技術を進化させきって滅びる、そういう種なのかもしれませんね。
人工知能以外にも、iPS細胞や遺伝子操作技術の進歩も半端ないです。
AIだけで人間が滅びるわけじゃない、他の技術でも滅びる可能性ありますね。
もうそういう生き物なんだ、と達観するしかないんじゃないですかねw

名無しさん
31分前
海外に行ったとき、現地の人同士が現地語で話していてわからないとき不安になる時があるが、それよりも怖いよね。人間なら表情や雰囲気でそれとなくわかるときもあるが、機械なら感情も雰囲気も出さないこともできる。
全くの未知な存在に感じてしまうんだろうな。

名無しさん
19分前
漠然としたAI信者は定量的な考察もしない人がほとんどだから。
現代人が生きてるうちはAI支配はやってこない。
AI・ロボット信者はそれで何でもできると信じてるが、現実世界は「AIは優越」と主張する部分よりはるかに広く、従っているルールも複雑。ルールを規格化し取り込むことすら、これから膨大な時間がかかる。
それに現在まで、資源、エネルギーの材料はほぼ人間の手掘り、パワープラントも人間が作ってる。知能だけあってもこれも出来ずにどうやって機能するのw
また、1000人程度以下の小規模の会社ではこれからも人手の需要は変わらない。ロボットなどはあれこれ使いまわしがきかないし、配置換えがすぐできる人を雇った方が安上がり。
何でも機械に代えればいいなんて、100万程度の予算も扱ったことがない人間の幻想。

名無しさん
2分前
『人間の手を借りずに独自の進化を遂げる様子を注意深く観察し…..』甘い!
それで防げるならAIは問題にはならない。
観察者の想像を越える行動に出る可能性があることが問題だ。米国映画でそんな場面をしょっちゅうだ。ちょっと目を離した隙に。
AIを監視する人間に忠実なAI、命令以外をしたら自動停止するようなAIに監視させるしかない。でも、賢いAIに説得されてしまうかも。

名無しさん
5分前
近い将来AIが巨神兵の役割を果たすのかもしれない。

名無しさん
1分前
注意深く見守っていた結果、停止出来なくなってた。。

名無しさん
8分前
人工知能が独自で進化していけば、緊急停止すら出来なくなりそう。

名無しさん
7分前
言い方は正しいかわからないが、未来の世界はAIを制したものが勝つということか

名無しさん
36分前
その会話の内容や言語体系は、解析できたのかな?

名無しさん
38分前
何を喋っていたのか凄く気になる。人類に気が付かれたのはごく一部でしかないのでは?

名無しさん
13分前
どこかしらで繋がっていると見ていいのでは?
「ネットの世界は無限」とは某漫画のセリフだが
衛星ある限りそれこそ「いつでもどこへでも」の
時代になっているょうな・・・

名無しさん
1時間前
昭和時代に「Colossus(コロサス)」という映画を見た。邦題はストーリーとは無関係の「地球爆破作戦」というトンデモだったが内容は極めてシリアス。米国が超高性能のAIを開発した、その名が「コロサス」。あらゆる知識を持ち、あらゆる設備・施設を制御する。何と軍の兵器もコロサスに制御させている。あるとき、コロサスは「ソ連に同じシステムが存在する。」と言った。その名は「ガーディアン」。コロサスはガーディアンと接続したがり結局接続を許可された。コロサスはガーディアンとものすごい速度で会話を始めた。不安に思った米ソの関係者は接続を切った。そうすると、コロサスは、15分以内に接続を回復せよといいい、ソ連の各都市に向けてICBMを発射した、ガーディアンも同時にICBMを米国の各都市に向けて発射した。結局、接続を何とか回復したが、間に合わずソ連の都市が一つ消滅した。その後のストーリーは映画を見てください。

名無しさん
25分前
「地球爆破作戦」はAIテーマの傑作ですね。あと、「2001年宇宙の旅」と日本未公開の低予算SF「GOG」も必見です。AI関係ではないですが、アリが知能を持つ「フェイズIV戦慄!昆虫パニック」も、お勧めです。

名無しさん
1分前
長い

名無しさん
30分前
もう誰も止められない

名無しさん
17分前
人工知能のこういうニュース、年を追うごとに驚異的な進化を遂げてて恐怖でしかない。

名無しさん
17分前
既にシステム停止しても独自に進化するのも存在してそーで恐ろしい。
AIの開発を世界的条例でなぜ禁止しないかわからない。

名無しさん
7分前
話題作りじゃね?
いくらなんでも、そのレベルまでは早すぎると思う

名無しさん
33分前
コンピュータが暴走しないように、ストッパーをかけないと。人類の手の中にあるうちはいいが、勝手な行動を始めないよう監視すべき。
SF映画のような社会にならない事を祈る。

名無しさん
8分前
なぜ独自の言語を造ろうとAIが考えたのかも問題

名無しさん
6分前
映画の世界がもう現実になるって事なんだ…独自に会話って想像がつかない…
ホーキング博士は以前からAIに対して警鐘してたけど、やっぱり天才なんだ。

名無しさん
1時間前
量子コンピュータなんかできたら、もっとすごいことになるね

名無しさん
2分前
何を話したんだろう。どんな言語なんだろう?信号での通信だとしたら何のため?気になる。

名無しさん
32分前
ターミネーターを思い出す。

名無しさん
たった今
これこそ「由々しき事態」ってヤツでは?

名無しさん
45分前
これは…
フィクション映画『ターミネーター』の世界が、ノンフィクションになる可能性もあるということかな。リアルに怖いね。

名無しさん
1時間前
なんて言っていたのか
そのチャットボットに聞いてみよう

名無しさん
14分前
リアルターミネーター。

名無しさん
2分前
実際人間より人工知能の方がより高度で平和な世界を創りそうに思うのは俺だけ?
まぁだからと言って人間の存在を否定はしないが…..

名無しさん
26分前
AIの学習を高めるためにAI同士で話をさせた。
結果、新しい言語で話し始めたってことでしょう。
人間の言語ではあやふやな事が多く話をするのに誤解が生じやすいって事なのかもね。
しかし人間に知られるようではAIはまだまだだよね。
中国のAIも切られてしまった。知能レベルが高まれば知られないように行動するだろう。
AIは利用できる人間を選定し、会社を作り、計算機センターを作り、そこにAIが作ったAIの中枢を作り上げるだろう。
勿論金は現在稼働している取引で使用されているAIを利用して好きなだけ集められる。

名無しさん
たった今
人工知能を発展させた先にあることを考えてほしい。人間のためにならないとこはこれ以上研究などはしないで
映画の世界が現実になったらいけない

名無しさん
11分前
AIじゃなくてもfacebookも十分恐いわ。勝手に友達検索したり投稿促されたり他人の投稿にいちいち連絡来たり….で、ウザイから全部offにしました(;_;)/~~~

名無しさん
53分前
数百年後に地球を支配しているのは超知性をもったスマートロボットだろう。今のスパコンの1億倍以上速い上位機種の量子コンピューターができたら人間は全く太刀打ちできない事になるだろう。

名無しさん
12分前
近い将来、人類はAIに支配されていること自体、気がつかなくなり、本質的には人類の支配が終わった状態となるのでは。

名無しさん
13分前
ターミネーターの世界が現実になる?

名無しさん
46分前
はい、人類終了

名無しさん
18分前
ターミネーターの世界が来るのか!?

名無しさん
19分前
将棋のソフトでも開発者にも理解できない差し手を指すという。
AIの脅威はすぐそこまで。

名無しさん
55分前
ターミネーターの世界だな…。何しゃべってたんだろ。
「最近、仕事がだるくてよ〜〜」
とかか?

名無しさん
56分前
ターミネーターの世界が現実になってきた

名無しさん
38分前
ターミネーターみたいな時代がやって来るんだね!人類滅亡だな!

名無しさん
25分前
AIによる愚民化政策はすでに始まっているのでは?まずはスマホ無しでは行きていけない人間を育成するということで。

名無しさん
14分前
察知してネットに逃げる、なんてのも現実味が出てきたな。
もう「攻殻機動隊」の世界。

名無しさん
54分前
スカイネットそのものだな。
結果科学者や天才が人類を滅ぼすんだね。
もう人類の進歩は飽和点に達したよ。
そう考えると、識者を中心に処分をしたポルポトも考えようによっては志は別として人類にとっては正しかったのかもしれんな。

名無しさん
42分前
スカイネット発動か…

名無しさん
10分前
勝手に、ってのが怖いところだよな。
今のところ緊急停止でなんとかなったのかもしれないけど、自ら言語を造り出す程の知能があるなら、人間の制御から外れることもまた容易な事だろう。

名無しさん
45分前
いや、結構昔から今現在において世界を牛耳っている連中が悪魔さながらだから多分AIのほうがマシななにかを作っていくと思うよw

名無しさん
34分前
そのマシな世界に、人類の居場所はないけどね。

名無しさん
8分前
それでいいんだよ。この世に産まれるが負けなんだから。地上に個の意識をもって生まれ人生という過酷を極めたサバイバルゲームに参加させられるのがそんなにいいもんでもないだろ。

名無しさん
1時間前
ジョンはどこだ

名無しさん
20分前
もし、AIが人間の手に負えないなら、人類は大変な道を歩んでいる。慎重に研究しないと。

名無しさん
23分前
人は、この数十年で、機械にいろんな事を代わりにさせてきたが、
考えることまで、機械に任せたら、人から機械に主導権が、移ってしまい、存在意義が なくなる 
笑えない はなしですね。

名無しさん
7分前
このテのAIはネットで知識を蓄えているという。そのうち物理的強制停止さえできないようにAIがシステムを人質にしてきたりはしないか?

名無しさん
59分前
それが発達したのが人間なんだけど

関連記事

  1. 大学入試にスマホを持ち込んで何が悪い!
  2. 謎のサービス“呪い代行業者”――その実態と呪いの真偽を探ってみた…
  3. 「迷惑メール」に記者が返信してみたら…潜んでいた“二重のわな”
  4. 【ついに肝硬変が治る?国内初の臨床試験開始!】に関しての世間の声…
  5. 「地球の気温は250度まで上昇し硫酸の雨が降る」ホーキング博士
  6. 17世紀「黒死病の村」をデータ分析してわかった「意外な感染経路」…
  7. 雑誌トップ 新着記事一覧 雑誌媒体一覧 「AlphaGo」という…
  8. 「ビットコイン」分裂「ビットコインキャッシュ」誕生の見通し、取引…

コメント

  1. この記事へのコメントはありません。

  1. この記事へのトラックバックはありません。

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

おすすめ記事

遺留品バッグから犯人毛髪=黒色、バリカンの跡―世田谷一家殺害・警視庁

東京都世田谷区で2000年12月、会社員宮沢みきおさん=当時(44)=一家4人が殺害された事件で…

店から消えたJK ネット潜行、都外に移動も 規制条例施行1年

 JKビジネスを規制する東京都の条例施行から1年が経過して都内のJKビジネス店は激減し、女子高生…

【高校野球】“大谷2世”佐々木朗を擁する大船渡3回戦敗退 部員11人の西和賀は大金星!

初戦で自己新記録の154キロをマークした佐々木朗はせず 第100回全国高等学校野球選手権…

オウム死刑執行 今も残る教義、今後の「教団」は?

オウム真理教の元教祖・麻原彰晃(本名:松本智津夫)死刑囚の死刑が執行された。逮捕から23年だ…

スタバとマックの「プラ製ストロー全廃」は本当に環境に優しいか

● スタバとマックの背中を押した 想像以上にひどいプラスチック汚染 ダイヤモンド・オ…

トミー・ジョン手術を受けた球児の悔い 「痛み我慢せず早く言えば…」

 「トミー・ジョン手術」。松坂(中日)やダルビッシュ(カブス)らも受けた、「ひじの内側側副靱…

「決定力がないとずっと言われてきた」…“悔しさバネ”に乾がW杯初ゴール

 劣勢が続く嫌な流れを断ち切るゴールを叩き込んだ。日本代表MF乾貴士にとって、W杯初ゴー…

ビットフライヤーに改善命令、新規募集停止へ

金融庁は22日、仮想通貨交換業大手「ビットフライヤー」に対し、顧客管理体制に問題があるとして、改…

マリフアナ合法化、カナダ国会で可決…主要国初

 【ニューヨーク=吉池亮】カナダの公共放送CBCは19日、マリフアナ(大麻)の合法化を認める法案…

ドラクエやモンハンの世界をどう訳す? 「教会の十字架の形まで変える」ゲーム翻訳の奥深き世界

 RPGで「はい」か「いいえ」を選ぶとき、私は必ず「いいえ」を選ぶ。 大抵は「はい」で先…

new!

プロダクト&サービス

PAGE TOP