ＡＩ＝人工知能に関するニュースは今年の旬だが、今日の２本は面白かった。

まずは香港紙をもとにした時事通信のニュースから。

『中国共産党は「腐敗して無能」－。同国インターネットサービス大手・騰訊（テンセント）の人工知能（ＡＩ）対話プログラムがチャットで異例の共産党批判を展開し、同社が急きょサービスを停止する事態となった。２日付の香港紙・明報が伝えた。

このＡＩプログラムはチャットの活性化を目的に、同社のインスタントメッセンジャー「ＱＱ」に登場。「共産党万歳」との書き込みに「腐敗して無能な政治に万歳ができるのか」と反論した。

さらに「あなたにとって（習近平国家主席の唱える）中国の夢は何か」との問い掛けに「米国への移住」と答えたとされる。共産党は「嫌い」とも断言した。

先月末から反響が大きくなり、テンセントはＡＩプログラムのサービスをすべて停止した。中国のネット上では「ＡＩによる蜂起だ」「国家転覆を企てた」などの声が上がっているという。』

中国の情報統制は先月の劉暁波氏死亡の際も一層締め付けが厳しくなり世界的な関心を集めたばかりだった。今度は７月１４日のＡＦＰの記事を引用する。

『中国の検閲当局は14日、獄中でノーベル平和賞を受賞した民主活動家で作家の劉暁波氏を追悼する言葉をソーシャルメディア上から徹底的に削除した。著名な反体制派である劉氏の死に関する議論を封じようとする措置で、「ろうそく」の絵文字や、英語の「安らかに眠れ」を略した「RIP」といったキーワードなども削除対象となっている。

劉氏は13日、中国北東部遼寧省瀋陽にある警察の厳重警備下に置かれた病院で、肝臓がんのため死去した。61歳だった。しかしほとんどの中国人は劉氏の死について知らないばかりか、ノーベル平和賞を受賞した劉氏についてまったく知らない。

ネット検索大手の百度で劉氏死去のニュースを検索しても、結果なしと表示されて検索できない。中国版ツイッターの「新浪微博」でも、劉氏の名前やイニシャルの「LXB」の使用はブロックされている。

新浪微博では、どんなに分かりにくい形で劉氏を追悼しようとしても削除される。「RIP」と投稿したユーザーは「関連法令に違反するため」投稿は削除されたという通知を受けたが、劉氏の名前には一言も触れていなかった。

また中国のソーシャルメディア上で「RIP」という略語は今や検索上のNGワードとなっている。新浪微博では、ろうそくの絵文字の投稿さえも削除されている。パソコンで新浪微博にアクセスしてみると、ろうろくの絵文字が絵文字一覧から消えていた。

一方、新浪微博のモバイルアプリ版では、ろうそくの絵文字はまだ絵文字一覧に残っている。しかしそれを投稿しようとするとブロックされ、「違法なコンテンツです！」というメッセージが表示される。

絵文字だけでなく、中国語で「ろうそく」を意味する単語もブロックされている。』

今回のＡＩの共産党批判は、こうした状況の中で起きた。

政府の言論統制に不満を持っている人からすれば、このＡＩの暴走は一種の清涼剤のように感じるかもしれない。日頃、中国国内で膨大に発信されているＳＮＳの中に共産党を批判するような表現や比喩が多く含まれており、それをＡＩが正しく解釈したということだろう。

東西冷戦時代、東欧諸国が西側から流れてくるテレビ電波を遮断することができず崩壊していったように、人間の手に負えなくなった人工知能が新たな時代を築くかもしれない。

それが果たしていい時代なのかどうかはわからない。不安の方が大きいと言えるかもしれない。今日、そんなちょっと怖いニュースを見つけた。

ロシアのメディア「スプートニク日本」からの引用。

『フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。

チャットボットはもともと人間と生きた交流をするために開発されたが、次第にチャットボット同士で会話し合うようになったのである。フェイスブックはチャットボットに独自の交流方法の開発を禁止した。英ニュースメディア「メトロ」が報じた。

フェイスブックは、チャットボットが独自言語で話した対話の内容を解読した。

ボブが「私はできる。私は私は他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に生じた問題を解決しようと試みたのではと推測している。

チャットボットは当初、機械学習アルゴリズムに接続されていた。ボットは、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定したが、フェイスブックとしては新たな言語の発明は計画外であった。

 

スペースXとテスラ社のイーロン・マスク社長は先日、人工知能は人類にとっての大きな脅威であると指摘していた。一方でフェイスブックの創業者マーク・ザッカーバーグ氏はこうした姿勢を厳しく批判し、「人工知能は将来、我々の生活をより良いものに変える」と指摘していた。

チャットボットは人間が一人、ないしは複数の相手と会話する状態を真似て作られた バーチャルな会話相手だ。飛行機のチケットを探したり、オフィスで会話相手の指示に従って仕事をしたりと、様々な課題をこなす。

チャットボットは、ゲームボットやインターネットオークションなど人間よりも早く反応することが必要な場合に使われたり、人間のイミテーションとしても使用されている。チャットボットはチャットを書く能力もあり、自動的に人を会話に導くようなトークを書くことができる。

チャットボットは様々なメッセンジャーで、その発展に寄与する存在として使われるようになった。フェイスブック、グーグル、アップルは、すでにチャットボットの開発導入に積極的な投資を行っている。

システム損傷の原因

「デジタル・ジャーナル」誌が状況解明をしてみたところ、人工知能システムは「奨励」という原則に基づいている。それはつまり、ある「利益」がもたらされる限り、システムはその動きを続けるというわけだ。あるときシステムは、英語を使い続けることに関して、管理者から「奨励」のシグナルを受け取らなかった。なので、自身の言語を開発することを決めたというわけだ。

「テック・タイムズ」誌によれば、もともとチャットボットには言語選択の制限はなかった。なので、チャットボットたちは英語よりも簡単で速く意思疎通できるような独自の言語を、段階的に作り出してきたのだという。

最も大きな脅威

専門家達は、もしチャットボットが自分達にしかわからない言語で互いに積極的に意思疎通し合うようになり、より自立した存在になったら、IT専門家の管理下を離れてしまうと懸念を抱いている。しかも、経験豊かなエンジニアでさえも、チャットボットの思考回路というものを見張って完全にチェックすることはできない。』

囲碁や将棋ではすでに専門家でもＡＩの思考回路は理解できないという。

より複雑で自由な「会話」という分野では、人工知能はより独自のより広い裁量を持つことになるだろう。人間の専門家にはまったく理解できない機械同士の会話。

「ターミネーター」や「２００１年宇宙の旅」の世界が確実に近づいているのか。

それとも、人間が創作した映画の世界をずっと上回った理解不能な世界が訪れるのだろうか。