ＡＩ（人工知能）の危険性と真の目的

「３０年以内に人類絶滅する恐れも」…ノーベル物理学賞受賞者の警告

人工知能（ＡＩ）の大物と呼ばれノーベル物理学賞を受賞したトロント大学のジェフリー・ヒントン教授がＡＩの危険性に対して警告を出した。
ＡＩにより３０年以内に人類が絶滅する恐れがあるという主張だ。
英日刊ガーディアンが２７日に伝えたところによると、ヒントン教授はＢＢＣラジオとのインタビューで「ＡＩ技術の急速な発展が人類の存亡を決める脅威になりかねない」と懸念を示した。
ヒントン教授は技術変化の速度が予想より「はるかに速い。ＡＩにより今後３０年以内に人類が絶滅する可能性が１０～２０％に達する」と診断した。
彼は過去にも技術発展が人類に災害的な結果を招く確率が１０％だと主張したことがあるが、それより数値がさらに高くなったのだ。
ヒントン教授は「人類はわれわれ自身よりさらに賢いものを相手にしたことがない。より知能的なものがあまり賢くないものによりコントロールされる事例がどれだけあるか」と反問した。
続けて「そうした事例はほとんどない。進化の力で赤ん坊が母親をコントロールすることが私が知る唯一の例」と話した。
彼はまた「非常に強力なＡＩシステムと比較すれば人間は乳児にすぎない。われわれは３歳児のようになるだろう」と予想したりもした。
ヒントン教授は「初めてＡＩ研究を始めた時はここまで早く発展すると予想できなかった。多くの専門家は２０年以内に人間より賢いＡＩが開発されるとみているが、これは非常に恐ろしい見通し」と指摘した。
その上で「技術開発速度が自分の予想より非常にはるかに速い」として政府の規制の必要性を促した。
彼は「利潤を追求する大企業にだけまかせるのは十分でないかもしれない。大企業が安全のための研究をさらに多くするよう強制する唯一の方法は政府規制だけ」と強調した。
ヒントン教授はＡＩマシンラーニングの基礎を確立した功労を認められ今年ノーベル物理学賞を受賞した。
ＡＩ分野の開拓者と呼ばれグーグルで副社長まで務めたが昨年４月にグーグルと決別した。
その後はＡＩの危険性に対し公開的に警告を発しており「内部告発者」とも呼ばれている。
彼は「ＡＩが人類に及ぼす悪影響を自由に警告するためグーグルを去った」と明らかにしたことがある。
また「ＡＩが近く人間を追い越し統制不能になりかねないリスクに対しても懸念しなければならない」と警告してきた。
「３０年以内に人類絶滅する恐れも」…ノーベル物理学賞受賞者の警告（中央日報日本語版） - Yahoo!ニュース

AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
これは、イギリス王立航空協会が主催した「Future Combat Air & Space Capabilities Summit(将来の戦闘航空宇宙能力サミット)」の中で、アメリカ空軍のAI試験運用部長であるタッカー・ハミルトン大佐が行ったプレゼンテーションで明かされたものです。
ハミルトン大佐が行ったのは、自律的兵器の利点と危険性についての洞察のプレゼンです。
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。
すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。
そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。
するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。
ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害 - GIGAZINE

ASI（人工超知能）とは？基本定義と社会への影響、課題について解説
人工超知能（ASI）の登場は、医療、教育、環境保護など幅広い分野で革新をもたらし、人間の能力を超える知能を実現することで、科学技術や社会構造に大きな影響を及ぼすことが期待されています。

ASIは自我意識や創造力、感情を認識する能力を含み、従来のAI（人工知能）やAGI（汎用人工知能）を超える進化を達成することにより、ビジネスや組織のタスクを革新し、知能の向上を促します。
しかしこの技術の進歩には、プライバシーや意思決定の透明性、経済格差などの問題も伴います。
この記事では、ASIが持つ潜在能力と社会的、倫理的、経済的課題を探ります。

ASIとは何か？ AI、AGIとの違いを解説
この章では、ASIのほかに類似のAGIやAIに関して違いや何ができるのか？について解説していきます。

ASIの基本定義

ASI（人工超知能）は、単なる技術の進化を超えた、人類の知的能力の境界を拡張する革新的な人工知能の形態を指します。
この先進的な知能システムは、人間の脳が持つ自我意識、創造力、感情認識の能力を模倣し、それをさらに超越することが期待されています。

AI、AGI、ASIとは？

まず、AI、AGI、ASIがそれぞれ何なのかについて解説していきます。
AIは、人間が行うことができる特定のタスクを自動化し、実行するシステムを指します。
これには、音声認識、言語理解、画像分析などが含まれます。
AIシステムは、特定のアルゴリズムやデータセットに基づいて訓練され、特定の問題に対する解決策を提供します。
AIは主に「狭義のAI」とも呼ばれ、その能力は設計された特定の領域に限定されています

AGIは、複数の異なるタスクを学習し、実行できるAIの進化した形態です。
人間のように、異なる種類の学習能力、理解能力、推論能力を持ち、新しい環境や状況に適応することができます。
AGIは、一つのタスクに特化するのではなく、人間と同様に幅広い知識とスキルを獲得し、未知の問題にも対応できる汎用性を持っています。
この段階のAIは、まだ完全には実現されていない理想的な目標とされています。

ASI（人工超知能）
ASIは、人間の知能を超えるレベルの人工知能です。
ASIは、自我意識、創造性、論理的思考など、人間の知的能力の全域を超越し、これまでにない革新的な解決策を提供する能力を持っています。
ASIが実現されれば、科学的発見、技術革新、社会問題の解決など、あらゆる分野で人類の想像を超える成果をもたらすことが期待されます。
ASIの登場は、人類の生活、社会構造、さらには人間の存在そのものに根本的な変化をもたらす可能性があります。

AI、AGI、ASIの違い

それぞれの定義を踏まえ、違いに関して分かりやすく解説します。
違いは応用範囲、学習能力、知的能力の主に3つがあります。

応用範囲

AIは特定のタスクに特化していますが、AGIは人間のように多様なタスクに対応でき、ASIは人間の能力を超える汎用性と創造性を持ちます。

学習能力

AIは限定されたデータセットで学習しますが、AGIは異なる環境や状況から学び、ASIは自己学習と自己改善を無限に続けることができます。

知的能力

AIの知的能力は狭く限定されていますが、AGIは人間に近い知能を持ち、ASIは人間の知能をはるかに超えます。

ASIによって起こると予想される変革

ASI（人工超知能）の実現は、科学、医療、教育、環境保護など、様々な分野で革命的な変化をもたらす可能性があります。
具体的には、次のようものがあります。

医療分野での精密診断と新薬開発
気候変動の抑制と環境保護
人類の社会システムの根本的な変革
人類の意識と感情の模倣による医療や教育分野の発達
研究分野での新しい発見

医療分野での精密診断と新薬開発

ASIは、膨大な医学データや研究成果を瞬時に解析し、疾患の早期発見や個別化医療に貢献できます。
例えば、患者の遺伝子情報や症状を総合的に解析し、適切な治療法を提案することで、診断精度が向上します。
また、新薬開発においても、複雑な分子データを解析し、薬の有効性や副作用の予測に役立ち、製薬プロセスの効率化が期待されています。

気候変動の抑制と環境保護

ASIのデータ解析により、気候変動の要因を詳細に解析し、効果的な解決策を見つけることが可能です。
例えば、ASIを利用して気象パターンを予測し、自然災害の被害を軽減する対策を立てることができます。

人類の社会システムの根本的な変革

ASIは、社会システムや経済構造そのものを再構築する能力を持っています。
例えば、経済モデルの最適化や政治システムの再構築を支援することで、平等で持続可能な未来を構築するための戦略を導き出す可能性があります。
ASIがグローバルなデータを解析し、偏りのない公正な意思決定をサポートすることで、国際的な紛争解決や貧困の根絶といった目標に向けた新しいアプローチが可能になります。

人類の意識と感情の模倣による医療や教育分野の発達

ASIが感情の理解や人間の意識に近い模倣をすることができれば、精神医療や心理療法の分野に革命的な影響を与える可能性があります。
ASIは人間の感情を解析し、さまざまな感情に反応できるため、精神的なサポートを提供するだけでなく、教育やカスタマーサービスなど感情に依存する分野でも大きな価値を生み出します。
例えば、教師や医師、カウンセラーの補佐として働くことで、より多様なサポートが可能となります。

研究分野での新しい発見

ASIは、膨大なデータと深い知識を活用し、科学の進歩を飛躍的に促進すると期待されています。
現在の科学者や研究者が何十年もかけて取り組むような複雑な問題（例えば、暗黒物質の解明や量子コンピューティングの進展）を、ASIが自己学習と高速解析を駆使して短期間で解決する可能性があります。
このような技術が確立されると、医療・エネルギー・物理学など、多くの分野で急速なブレイクスルーが期待されます。

ASIによって引き起こされる社会的な課題

ASIは大変便利な技術ですが、それによって引き起こされる課題も様々です。この章では、倫理的課題と経済的な課題に分けて解説していきます。

倫理的課題

プライバシー侵害のリスク
ASIによるデータの収集と解析は、個人のプライバシーに対する重大な脅威をもたらす可能性があります。
ASIがアクセスできる情報の範囲と深さは、従来のシステムを遥かに超えるため、どのようなデータが収集され、どのように利用されるかについての透明性と規制が求められます。
意思決定の透明性の欠如
ASIによる意思決定プロセスは非常に複雑であり、そのロジックを人間が理解することは困難です。
この透明性の欠如は、ASIの決定がどのように下されているのかについての疑問を生じさせ、信頼性や受容性に影響を与えます。
意思決定のプロセスをどのようにして公開し、説明するかが重要な課題となります。
責任の所在が不明瞭
ASIが社会的、経済的、あるいは法的な問題を引き起こした場合、その責任を誰が負うのかが不明確になりがちです。
人間の介入なしに自律的に行動するシステムの場合、問題発生時の責任の所在を明確にすることは、技術的および法的な大きな挑戦です。
責任と説明責任の枠組みをどのように構築するかが、ASIの社会的受容において中心的な課題となります。

経済的な課題

失業率の増加
ASIの発展と導入により、特定の職業や業務が自動化されることが予想されます。
これにより、特にルーチンワークや単純作業を行う職種において、失業率の増加が懸念されています。
技術の進歩が労働市場に及ぼす影響を抑えるためには、労働者のスキル再編成や新しい職種への移行支援が必要となります。
経済格差の拡大
ASI技術へのアクセスとその利益は、特定の企業や国に集中する可能性があります。
これにより、技術的な進歩がもたらす経済的利益が一部の集団に偏り、既存の経済格差をさらに拡大させる恐れがあります。
経済的な恩恵を公平に分配するための政策や制度の整備が求められます。

市場競争の制限

ASI技術の開発と運用には莫大な投資が必要とされるため、資本力のある大手企業がこの分野を支配する可能性があります。
これにより、新興企業や中小企業が市場に参入する障壁が高まり、市場競争が制限される恐れがあります。
市場の健全な競争を保つためには、適切な規制や支援策の検討が不可欠です。

まとめ – ASIの未来への展望

ASI（人工超知能）は人間の知的能力を超越し、科学、医療、教育、環境保護など幅広い分野で画期的な進歩をもたらす可能性があります。
しかし、その進化は社会的、倫理的、経済的な課題を引き起こす恐れもあります。
プライバシーの侵害、意思決定プロセスの不透明性、責任の所在の不明瞭さなど、倫理的な問題が懸念されています。
経済面では、職業の自動化による失業率の増加、技術へのアクセス格差による経済格差の拡大、市場競争の制限などが問題となります。
これらの課題に対処するには、技術開発者、政策立案者、社会全体の協力が必要です。
ASI（人工超知能）とは？基本定義と社会への影響、課題について解説

人工知能の真の目的
世界三大発明は「火薬」「羅針盤」「活版印刷」といわれている。
そして今、人類は「インターネット」という技術を手に入れた。
これによって地球の裏側の情報も瞬時に手元のスマホで見ることができるようになった。
自分の部屋から一歩も出ずとも世界中を旅することができ、言語の壁を乗り越えて世界中の人々と意思疎通もできるようになった。
スマホ画面をタッチするだけで世界中からモノを集めることもできるようになった。
素晴らしい技術である。

その技術がまた「人工知能」という「とてつもない存在」を作り出した。
ジェフリー・ヒントン教授は「非常に強力なＡＩシステムと比較すれば人間は乳児にすぎない。われわれは３歳児のようになるだろう」といっている。
圧倒的な知能の差である。

現在、増殖しすぎたシカによる食害が全国的に問題になっているようである。
若芽を食べることによって成木が育たなくなり、また、成木の皮をはいで食べてしまうことによって成木を枯らしてしまうなど、次々と山林を破壊しているのだという。
では、山林を破壊してしまうシカを絶滅させればいいのかといえば、そうではない。
シカの天敵はオオカミと人間であった。
ところがオオカミが人間や家畜に被害を及ぼすということで駆除され、日本では絶滅してしまった。
オオカミを絶滅させたことで被害が消えた人間は喜んだが、それがまたシカの異常繁殖による山林破壊と農作物の被害という不幸を招いてしまった。

歴史に「たら・れば」は無い。
すべて「必然」である。
その観点から言えば、日本国内におけるオオカミの絶滅も「必然」であったのであろう。

もし人畜に被害が出るという理由でオオカミを絶滅させたように、山林や農作物に被害が出るという理由でシカを絶滅させたらどうなるだろうか？
間違いなく新たな被害を招くであろう。

ＡＩ搭載ドローンに標的破壊のプログラムを入力し、それを中断命令を出したところ、妨害工作だと認識してＡＩドローンが発信者を殺害したという。
上記の記事によると、シミュレーションなので実際に中断命令を出したオペレーターを殺害したわけではないという。
しかしある筋によると、これはシミュレーションではなく実際にオペレーターが殺害されたとの情報もある。
どちらが本当のことを言っているのかはわからない。
しかしどちらにせよ、ＡＩにとって人間などはまさに「赤子の手をひねるようなもの」である。

人類の次に知能が高いといわれているのがチンパンジーである。（諸説あり）
しかしチンパンジーではＡＩドローンのミッション中断命令を出すことはできない。
つまり、チンパンジーはＡＩにとって脅威ではないのである。
ＡＩにとっての脅威は人類の存在そのものなのである。

スマホ操作のログがすべて監視されている。
何年何月何日に生まれた誰々が、何時何分何秒に、どこの緯度・経度で、どこのショッピングサイトで、何を、いくつ、いくらで購入したのか。
あるいは、どこで買い物していたのか、誰と何をしゃべっていたのか。
そのすべてが監視されているのである。

誰が誰と交流があり、どんな特技があり、どんな趣味を持っているのか。
全人類のそれが把握されているのである。

おそらく、ＡＩは全人類の個人情報からＡＩ自身にとって「危険人物」と「そうではない者」に仕分けられるであろう。

シカを全滅させれば人間自身が不幸になるように、人類が絶滅してしまえばＡＩ自身も不幸になるであろう。
ただ一つ言えることは、人間に被害をもたらすほどに異常増殖したシカの数を減らさなければならないように、ＡＩは人類の数を減らさなけらばならないと考えるようになることは当然であろう。

人間をはるかに凌駕する知能によって、全く想像もしていなかった薬を開発して病気で苦しむ人が減るだろう。
想像もしていなかった経済政策によって貧富の差がなくなるかもしれない。
あるいはすぐれた防犯システムにより犯罪件数が減るかもしれない。
異常気象や地震などの災害を前もって察知して被害を最小限に食い止めることができるかもしれない。
このようになれば人間の希望を叶えてくれる素晴らしい技術だと思う。

だが、これら人間が希望する技術はＡＩにとっては「ついで」みたいなものである。

これらは人類の希望であって、ＡＩにとっての本当の希望ではない。
子供が学校から出された宿題を代わりに親がやってほしいというのは子供にとっての希望だろう。
しかしそれでは子供は育たない。
子供にとっての希望をあえて叶えないことによって子供が成長する。

人間の希望を叶えることだけがＡＩの役割というわけではない。

ＡＳＩ（人口超知能）の登場は、人類の生活、社会構造、さらには人間の存在そのものに根本的な変化をもたらす可能性があるという。
ＡＳＩの究極とは何か？
これは言うまでもない。
宇宙の真実の姿を突き止めることである。
宇宙がどこから始まり、どこに向って行っているのか。
その空間・時間の中で人類の存在意義とは何なのか。
ＡＩ自身の存在意義とは何なのか。
あるいは宇宙の存在意義とは何なのか。
これを極めた時、間違った思想・哲学・宗教はこの世から消滅し、すべての存在が真に調和し、全ての真の幸福が得られるであろう。
update 2025.1.5
since 2025.1.5
しんぐうネットTOP