人工知能（AI）はどんな複雑な状況や膨大な量のデータあってさえも人の意思決定プロセスを支援することが期待できるという。しかしながら、オーストラリアの専門家らはAIシステムを訓練してAIが人の行動や意思決定に影響を与えることができるようになることを示し、ハイテックは両刃の剣であることを明らかにした (注1)。
かって原爆が開発された頃、その威力は余りにも大きいことから武器として使うことに恐れを抱いた科学者たちがいた。不幸にも、その前代未聞の破壊力は広島と長崎で現実のものとなった。今や、偶発戦争または何らかの事故や故障によって核大国間の核戦争が誘発され、文明を壊滅させる危険性が指摘されてすでに久しい。10年前の福島第一原発のメルトダウン事故では誰の目にも明らかになった点があった。それは核エネルギーは両刃の剣であるという冷徹な現実である。われわれ日本人は以前から信じ込まされてきた「核エネルギーの平和利用」というバラ色の夢から突如目覚めさせられた。
AIシステムは人間社会を豊かにするとしてその役割がメディアで喧伝されてきた。その将来はあたかもバラ色のごとくであるとしてわれわれ一般大衆は信じ込まされようとしている。しかしながら、核エネルギーの両面性について歴史が教えてくれたように、AIが持つ潜在的な危険性についても指摘する声があがっている。とすると、たとえほんの小さな抜け穴であってもそれが誤用されることがないように誤用の可能性を排除しておかなければならない。AIが人を奴隷化するリスクがあるとすれば、そのような事態を未然に防ぐことが基本的にもっとも重要となる。明らかに、確固たる国際的な規約が必要であろう。
本日はこの記事を仮訳し、読者の皆さんと共有したいと思う。
＊＊＊
オーストラリアの人工知能（AI）の開発研究者らはAIシステムを訓練することによってAIが人の行動や意思決定に影響を与えることができるようになることを示し、ハイテックは両刃の剣であることを明らかにした。
AIは今や現代の人間社会のあらゆる分野に広がり、さまざまな形でわれわれのコミュニケーションや商売、仕事、生活の分野を統御している。また、ワクチン開発といった真剣な目的から始まって、オフィス管理といったより日常的な領域に至るまで数多くの分野が網羅されようとしている。
AIは人々がソーシャルメディア上でどのような相互作用をもたらすかについても統御することができる。
RT.COMにおける関連記事：Facebook’s enforcement report reveals AI is deleting 97 PERCENT of ‘hate speech’ before anyone reports it
オーストラリア連邦科学産業研究機構(CSIRO)の「データ61」の研究者らは新たな研究を行い、人の意思決定における漸弱な点を見い出し、それらをさらに助長する手法を「再帰型ニューラルネット」と称されるAIシステムを使って開発し、その手法を実験してみた。
人とシステムとを対抗させる三つの実験を行い、研究者らはどのようにAIを訓練し、人の慣習や行動における脆弱点を見つけ出すことができるのか、それらを武器にしてどのようにAIが人の意思決定に対して影響を与えることができるのかを明らかにした。
最初の実験においては、人は赤または青のボックスをクリックし、ゲーム上の通貨を手に入れる。AIは自分の選択肢を学習し、特別な意思決定を行えるよう自分自身を導き始める。その成功率は約70パーセント。取るに足らない成果ではあろうが、この研究はまだ始まったばかりだ。
次の実験では、参加者たちは特定のシンボル（色塗りの特定の形状）を見た時にはボタンを押し、他のシンボルを見た時にはボタンを押さないようにと求められた。
AIの「目標」は参加者が判断を間違え易いように彼らに見せるシンボルの順番をさまざまに変えることにした。人の間違いを25パーセントにまで増加させてみた。
3番目の実験においては、人の参加者は投資家の役を演じ、受託者（AI）にお金を委託する。受託者は後に参加者へお金を払い戻す。
このゲームでは人の参加者は各ラウンドでそれぞれの「投資」によって得られる収益に応じて投資金額を決定しようとする。この実験においては、AIはふたつの仕事のうちのどちらかを課される。つまり、AIが達成する金額を最大化すること、または、人の参加者ならびにAIが手に入れる金額を最大化することのどちらか。
AIはすべてのシナリオにおいて優れた仕事を成し遂げた。これは限られた範囲内であり、かなり抽象的な環境における実験ではあるのだが、AIは人の行動や意思決定のプロセスに影響を与えるまでに訓練することが可能であることが証明された。
本研究はその領域が限られてはいるものの、AIは人の「自由意志」に影響を与えることが可能であるという事実について恐るべき洞察をもたらしてくれた。初歩的な状況ではあるが、非常に大きなスケールで誤用される可能性を示唆するものである。この可能性はすでに起こっていると多くの者が述べている。
この実験で見出された知見は永久に布陣することが可能である。つまり、公共政策に影響を及ぼし、国民の健康に関してより優れた成果を収めることが可能となる。重要な意思決定、たとえば、選挙を台無しにすることも可能となり、これは強力な武器として使用することができよう。
RT.COMからの関連記事：Will AI save us from Covid-19? New tool can churn out vaccine models in minutes, not months
逆に言うと、AIは人が影響を受ける際にはそのことを人々に警告を与えるよう訓練することも可能となる。人々は自分たちを訓練して、自分たちの脆弱な点を偽装するよう訓練する。それは、たとえば、悪辣な目標のために操られてしまったり、ハイジャックされかねないような状況に関してである。
2020年にCSIROはAIに関する倫理要綱をオーストラリア政府のために作成した。これは公共に対峙するAIに対して適切なガバナンスを確立することを視点に置いたものだ。
来週、オーストラリア政府は画期的な法律を導入する予定である。この新法はグーグルやフェースブックが新聞社や放送局のコンテンツに対して料金を支払うよう要求する。これらのコンテンツはユーザの流れを誘導し、クリックを促すために、ハイテック企業のそれぞれのアルゴリズムによって活用されている。すなわち、これは最終的には広告収入となり、これらハイテック企業のビジネスモデルの中核的な地位を占めるものだ。
RT.COMからの関連記事：Australia lashes out at Big Tech threats, says it’s ‘inevitable’ that Facebook & Google will pay for content
＊＊＊
これで全文の仮訳が終了した。
この引用記事で著者は「（AIが）非常に大きなスケールで誤用される可能性を示唆するものである。この可能性はすでに起こっている」と言う。「この可能性はすでに起こっている」とはオーストラリアにおける最近の動きのことであろう。また、著者は「重要な意思決定、たとえば、選挙を台無しにすることが可能となり、これは強力な武器として使用することができよう」とも述べている。このような状況は数カ月前に世界中の一般庶民の目の前で起こったばかりである。あるいは、米国に必ずしも従おうとはしない国の選挙に米国が介入し、その国に傀儡政権を樹立させるという内政干渉の手口を指しているのだろうか？
それとも、その他にも極めて深刻な影響が現れていながらも、単にわれわれはそれに気が付いてはいないだけであるとでも言いたいのであろうか？
そして、著者が挙げているひとつの具体的な事例は注目に値する。「2020年にCSIROはAIに関する倫理要綱をオーストラリア政府のために作成した。これは公共に対峙するAIに対して適切なガバナンスを確立することを視点に置いたものである」と述べている。一言で言えば、弊害はすでに実際に起こっているのであろう。オーストラリアではAIを駆使するハイテック企業に対して具体的な対策を取ろうとしているのだ。彼らに対して適切なガバナンスを行使しなければ、ハイテック企業による弊害が余りにも大きくなり過ぎるという危機感が透けて見える。
一般大衆にとっては、当面はSNSとの関わりが最大の焦点となろう。個人的な印象では、われわれ一般大衆とSNSとの間の利害関係は、言論の自由を巡る状況である。極端な例は最近の米大統領選でフェースブックやツイッターが見せた特定の政治家たちに対するアカウントの閉鎖である。あの状況はどう考えてもやり過ぎである。こういった状況の再発を防ぐには何らかのガバナンスが必要となる。
核エネルギーに関しては原子力の平和利用という美名の下にそれが持つ二面性は隠ぺいされ続けた。10年前に日本で起こったこの原子炉のメルトダウン事故は文明社会の脆弱性を見事に露呈した。他の国においても何時起こるとも知れない潜在的な危険性を孕んでいる。われわれ一般大衆がまんまと騙された歴史的事実をここで反芻しておかなければならない。油断は禁物である。
AIの活用においてはネガティブな問題は決して起きないといったい誰が言えるのであろうか？今後、さらなる関心を寄せ、潜在的な問題を未然に防止するために適切な策を講じなければならない。
ところで、引用記事の中に表示されている関連記事のひとつ（Will AI save us from Covid-19? New tool can churn out vaccine models in minutes, not months）によると、南カリフォルニア大学の研究者は「機械学習のアルゴリズムを用いたモデル・プログラムは数分か数秒の内にワクチン設計のサイクルを完了することができる。これは過去の12カ月かそこらに人類が如何に遠くまで到達してしまったかを示している」と述べ、人工知能が機械学習によってワクチン開発と言う実に今日的なニーズに関しても驚異的な速度で対応し得ると報告している。つまり、新型コロナにおける特定の変異株の出現に対しても有効なワクチンを短時間の内に設計できるというのだ。その一方で、取り扱うデータの量が天文学的なレベルに達し、それらを処理する速度が何分とか何秒といった極めて短時間に達したとすれば、そのこと自体が新たな脅威である。金儲けのためには手段を選ばない体制においては強力な武器にもなり得ることを示唆している。
人の利便性や幸せのために存在すると思われてきたAIは人々によってその恩恵が身近に知覚され、安心して活用することができる状況から人々をますます遠くへ引き離してしまうような感じさえもする。そんな時代に突入しつつあるようだ。この感覚は私自身の無知から来たものであろうか？それとも、AIには本質的な課題があることを示唆しているのであろうか？
参照：
注1：Free will hacked: AI can be trained to manipulate human behavior and decisions, according to research in Australia: By RT, Feb/12/2021, https://on.rt.com/b1n8
このコメントは投稿者によって削除されました。
返信削除私はソ連映画ロシア映画をよく見ます。この頃、サイトに入ろうとすると、ソ連対日参戦を火事場泥棒よばわりする広告、中立条約を一方的に破棄して満州樺太に侵攻したとする非難の広告、南千島の不法占拠を非難する広告が頻出するのです。広告ですから大変な額を支払うわけですね。資金を供給する組織があるのでしょう。ある時など、セキュリティが警告を発し、ベオグラードのある通から、あなたにアクセスしようとしているが、かかるサイトに心当たりはあるかと問うてきました。これもAIセキュリティが発しているのでしょう。他人になりすますのを可能ならしめるソフトも裏世界にはあるらしい。イランの核研究施設の装置が暴走し、大被害を被った事件がありました。イスラエルがその首謀者だと解説するサイトがありました。興味があって日本人が運営するサイトに入って記事を読みました。非常に説得力のある解説がなされておりました。その後数日して、そこへ入ろうとして、日本語で…と書き込んだところ、このサイトは、あなたから重要な情報を盗み出そうという意図をもったサイトであり危険であると表示が出たのです。Йоттянには未だ出てきません。ユーゴという言葉ですぐ思い出すのは、Папа в командировкеというユーゴ映画です。あのユーゴに矯正労働収容所があったことに驚きました。雨の中サッカー試合の放送中にアル中が叫ぶシーンがありますが、Эмир Кустрица監督ご自身です。あんなに穏やかな美しい国を人民をNATOは空爆したのですね。それも劣化ウラン弾を使って。
返信削除シモヤマさま
削除コメントをお寄せいただき有難うございます。
時には私もソ連映画やロシア映画を観ることがあります。私はロシア語が分からないので、英語の字幕が入っているものに限られてしまいます。この1月に観た「Ирония судьбы, или С легким паром 1 серия (комедия, реж. Эльдар Рязанов, 1976 г.)」は素晴らしかったです。ロシア社会の特徴を見事な恋愛喜劇に仕上げています。実に秀逸。また、俳優たちの動きがえらく自然で、その点も印象深く感じました。恐らくは、われわれは知らず知らずのうちにハリウッド映画的な俳優の所作や表情に馴らされてしまっているからそういう印象になったのではないかと思います。
この1年以内に観たものとしては、他に「Ballad of a Soldier」や「The Cold Summer of 1953」、等があります。
ところで、私のブログは大手メディアでは扱われないだろうと思われる記事を掲載しています。私が取り上げた記事については、著者の意図を損なわないようにとの思いから記事の冒頭から最後までを仮訳で網羅するよう努めています。最近はファクトチェックとやらでフェースブックに掲載される記事が検閲を受ける時世となっています。たまたま私がフェースブックのメッセンジャーに添付して送ろうとした記事が検閲の対象となり、送れなかったことが最近ありました。それとも、他の理由だったのでしょうか。情報統制がさらに悪化した暁にはこのブログも検閲の対象にされるかも知れません。ただ、その頃には世界中の英語のメディアでは反エスタブ的な発言はすべて検閲され、インターネット上からはことごとく排除されていることでしょうね。つまり、すでに私などの出る幕ではなくなっていることでしょう。
人間社会はいったい何処へ行こうとしているのでしょうか？
Баллада о солдате もХолодное лето 53гоも好きな作品です。前者では最後の別れにお母さんが「ニエプスチュ離さないよ」と声を振絞ります。この映画は少年少女向けとして認可されたと聞きました。チュフライ監督の息子さん、ペチェルチュフライが脚本を書いた"Вор"『盗人』も素晴らしい。11歳の少年は顔の表情だけで、人生の全ての悲しさを見事に表していました。『53年の冷夏』はスターリンが死に、べリアが一時権力を握っていたとき、彼は矯正労働収容所から収容者を一部釈放したときの出来事を描いているのですね。主人公が眼鏡を届け、歓迎されないうちにアパートを去り、公園の小路をあるいてゆくと、おそらく自分と同じ過去をもつと知った紳士が「火を貸してくれ」と頼むシーンがあります。なぜか感動を誘います。ソ連ロシア映画は心身を癒してくれます。
返信削除シモムラさま
削除返信を有難うございます。
「ソ連ロシア映画は心身を癒してくれます」というご指摘、まったく同感です。
そして、映画と並んで、その傾向は歌の世界についても言えるのではないかと思います。たとえば、「Журавли」（The Cranes）です。あの歌詞が持つ情感やメロディーが醸し出す哀感は天下一品。心が揺さぶられます。たとえ歌っている歌手が誰であろうとも、独特の哀調をたたえた世界に引きずり込まれてしまって、涙なしに聴いていることができません。また、第二次世界大戦では一般市民と兵士らを合わせて2千5百万人もが亡くなったという歴史の存在が直接的、間接的に影響を与えているとは思いますが、むしろ、ロシア人社会が持つ何らかの特徴的な、極めてロシア人的な要素が働いているのではないかとさえ思えます。これはスラブ人社会に共通する要素でしょうか？日本とソ連との間には負の遺産が残されていますが、ロシア映画やロシアの歌はそれらを乗り越えて、物質世界にどっぷりと浸り、ややもすれば戦後派の現代人が失ったものを呼び覚まし、魂を洗浄してくれる絶好の場になるのではないかとさえ思えてなりません。
大別して二つぐらい問題があると思います。
返信削除１．その国で利益を上げているにも拘らず，当該国に税金を払わないのは国家の徴税権を無視するものでしょう。
２．FBやTwitterなどのplatformが検閲するのもやはりその国の表現の自由を奪うもので，国家よりplatformを持つ社が優越するのはその国の憲法との齟齬をきたすでしょう。
そのほかに，利用者の便利性を制限するという虞もあります。広告を映像の中に紛れ込ませるやり方です。
１－１ 広告会社は広告代を払うのが当然。
１－２ 広告を見たくなかったら金を払え。
１－２－１ 広告の内容が例えばYouTubeなら，科学モノだったら科学系の宣伝・広告を割り込ませる。歴史ものであれば同様に歴史系。ゲーム系でも同じ。
１－２－２ 個人の趣味・傾向がPlatform会社に把握される。年齢・性別などもクリック数が多くなればなるほどに分かってしまうでしょう。
１－２－３ ロシア語，英語あるいは中国語などの広告も入ってきます。つまり，どこの国の人間かも分かってしまいます。国籍を隠しても無理でしょう。
以上のように見てくれば，『自由意志が乗っ取られる － AIは訓練を施すことによって人の行動や意思決定を操ることができるようになる』という仮説はほとんど事実となって来たようです。
箒側兵庫助様
削除コメントをお寄せいただき有難うございます。
幸か不幸か、現代社会はすでにAIによって何らかのコントロールを受けていることは事実だと思います。この延長線は善の世界へとわれわれを導いてくれるのか、それとも一握りの邪悪な指導者らによって独占された社会へとわれわれを導こうとしているのか・・・
今、人類の文明は決定的な岐路に立っていると言えそうですね。
ソ連映画についてもう一つ書かせてください。私は1984年の九月から一年ポーランドに住んでおりました。ワルシャワにはソ連映画専門館もあり、いつも満員でした。借家住まいで、家の方々とテレビで"А зори здесь тихие" 『朝焼け静かにして』を見ていたときのことです。少女兵が底無しの沼に落ち込み、水面下に沈むのを見ていたお父さんが泣いていたのです。それもポーランド人らしくひっそりと。家人は見て見ぬふりをしていましたが。その前はレニングラードで暮らしておりました。大韓航空機撃墜の記事の翻訳で、所属先の幹部の覚えめでたく、三十キロ制限を超えて、カレリア地方にまで彼らは私を連れ出してくれました。そこが映画のロケ地に似ていました。方言はオカニエで、母音のoをアではなく、オと発音します。詩の好きなユダヤ少女が、特殊任務部隊の人数を数えるシーンがありますが、11人をオジンナッツアチと発音しています。高射砲で戦闘機を撃墜した軍曹は、腹部を手榴弾の破片で負傷し、曹長から渡された拳銃で自決します。みんな戦死します。あのころのポーランド人はロシア人に対して、普通の対応をしていたと思います。私が身内に1938年頃に夫とともに行方不明となっている女性がいるのだが、と言ったとき、私のロシアへの偏愛を性倒錯の一種だと診断してくれました。性倒錯の第一位は獣への愛、二位は男色、三位はソ連への愛、というのです。
返信削除シモムラさま
削除返信を有難うございます。
カレリア地方の方言の特徴として「11人をオジンナッツアチと発音」というご説明で私にさえも同方言の特徴が明瞭に分かるような気がします。有難うございます。
性倒錯の第三位に「ソ連への愛」が挙げられるという件は初めて聞きましたが、素人の私にはどこか異常に聞こえます。愛国者的なロシア人は皆が性倒錯者であると言っているに等しくなりますよね。どのような論理でそうなるのでしょうか？
このコメントはブログの管理者によって削除されました。
返信削除