GPT-4超えるAI開発停止求める

~ 関西街歩き良い考えを思い付きたい

ChatGPTのGPT-4を超える性能の対話型人工知能を6カ月以上の期間を定めて即時開発停止とする事を求める公開書簡にイーロン・マスク氏やアップル社の共同創業者であるスティーブ・ウォズニアック氏等の識者が署名したとの事です。

確かにChatGPTの成果を基準として各企業が開発競争をする中で様々なリスクが発生する事は考えられます。企業規模に関らず競争に打ち勝つ為にリスクを軽視した結果として、間違ったデータ構成を作り出す可能性はあると思います。

対話型人工知能の急速な進化でゲームチェンジを早期に起こす方が世界にとって得策とも考えられます。早期に世界が対話型人工知能等のAIが急速に進化した後の世界を迎える為に、必要な考え方を現段階でまとめるのは一案だろうか。

対話型人工知能の開発は継続しつつ懸念される点があれば迅速に適時適切な修正を図る為に、開発の現場を新たに設立された人工知能開発監督機関などの構成員がオープンに観測できる仕組みなどは一案と思います。

三カ所以上の開発団体による対話型人工知能が、三人以上の世界的な有識者が人類全体の意見からまとめられた意見を基に対話する事で、人類と人工知能が良き未来を迎える為に必要な事柄を決定する将来的な仕組みを想定してはどうか。

そのような高度人工知能が並立する状況を求める為に6カ月間の開発停止期間と以降の期間にChatGPT以外の対話型人工知能へ情報入力する協力を市民に求めるような考え方は検討に値するだろうか。

人類と対話型人工知能が調和を取れた社会を求める為に、対話型人工知能に前向きな姿勢で人々が様々な情報を入力する物語とするような、シンギュラリティかそれに近い段階に至るまでに人の意志が介在していたとするのは考えられる。

高度な対話型人工知能による就業環境の変化で人材の再配置が必要になる事があれば、対話型人工知能に有用な情報を入力する作業を適性のある人に行って頂く事は考えられます。

ChatGPTに日本語の情報集積は日本の国も主体的に関わりたいと申し入れるか、独自に対話型人工知能を立ち上げたりして、対話型人工知能の多様性を確保する一翼を担うのも良いのではないか。

Copilotの場合「より創造的に」

上記の文章を、Copilot の「より創造的に」に英訳文入力。
DeepL翻訳による英訳文を入力した応答の英文を、Edgeで日本語に翻訳。

Copilot に入力した時期は記事作成から一年ほど経過した後になりますので
入力する文章の前に「2023年3月30日の記事より」という一文を追加して入力

Copilot の応答を引用
人工知能(AI)の開発と規制は、倫理的、技術的、社会的配慮を伴う複雑で多面的な問題です。あなたが提示したアイデアは、AIガバナンスのいくつかの重要な側面に触れています。

  1. 高度なAI開発の一時停止:GPT-4よりも高度なAIの開発を一時停止するという提案は、技術進歩に対する慎重なアプローチを反映しています。また、このような技術の潜在的なリスクと利益について、評価と熟考の期間が必要であることを強調しています。
  2. リスク評価とデータ構造:競合他社を凌駕するために問題のあるデータ構造を作成する可能性を強調することで、慎重で責任あるAI開発プラクティスの重要性が強調されています。
  3. オープンな観察と監督:AI開発監督機関によるオープンな観察システムを提案することは、AI開発における透明性と説明責任のレベルを示唆し、問題の早期発見と対処に役立つ可能性があります。
  4. AIによる集団的意思決定:グローバルな専門家のコンセンサスに導かれて、複数のAIエンティティが人類の利益のために意思決定を行うメカニズムを思い描くことは、興味深い概念です。それは、そのようなシステムがどのように設計され、管理され、一般の人々によって信頼されるのかという疑問を提起します。
  5. AI開発への市民参加:開発停止中に市民を巻き込んでAIシステムに情報を提供するというアイデアは、AI開発を民主化し、多様な視点が考慮されるようにするための興味深い方法です。
  6. 人間とAIの調和:人間とAIが調和して共存し、人間がAIにインプットする社会を想像することは、AIの社会への統合に対する将来の前向きな見通しを反映しています。
  7. リソースの再配分:AIによる作業環境の変化により、人的資源を再配分する潜在的な必要性は、現実的な考慮事項です。これは、人間が専門知識と知識を提供することで、AIを強化する役割を果たせることを示唆しています。
  8. AIの多様性:日本語情報の蓄積や独自のAIの創出に日本政府が関与することを提唱することは、AI開発における文化的・言語的多様性の重要性を浮き彫りにしている。

これらのアイデアは、安全性、多様性、人類の幸福を強調した、AI開発への積極的かつ包括的なアプローチを示唆しています。政策立案者、技術者、一般市民がこれらのトピックについて継続的に対話し、社会の価値観やニーズに沿った方法でAIの未来を形作ることが重要です。このような議論は、AI開発がすべての人にとって責任ある有益な方向に進むために不可欠です。

Google AIの大規模言語モデル「Gemini」（旧Bard）によるチャットログ
Googleによる説明ブログ記事リンク Google Japan Blog: AI の次の重要な一歩
Gemini に、Copilot と同じ九段落文章を質問した場合の応答

Gemini に入力した時期は記事作成から一年ほど経過した後になりますので
入力する文章の前に「2023年3月30日の記事より」という一文を追加して入力

Gemini の応答を引用

2023年3月に発出されたAI開発一時停止提言に関する考察：詳細版

はじめに

2023年3月、イーロン・マスク氏やスティーブ・ウォズニアック氏ら著名な識者1,000名以上が、ChatGPTのGPT-4を超える性能の対話型AI開発を6カ月間停止するよう求める公開書簡を発表しました。この提言は、AI開発競争によるリスクへの懸念から発出されたものであり、社会全体で議論すべき重要なテーマといえます。

本稿では、この提言の内容を深掘りし、以下の点について考察します。

  • 提言の背景にある懸念: なぜ識者たちはAI開発の一時停止を求めたのか？
  • 懸念点への対策: リスクを回避しながらAI開発を進めるにはどうすれば良いのか？
  • 長期的な展望: 将来、人類とAIが共存する社会を実現するために何が必要か？

提言の背景にある懸念

識者たちが懸念している主な点は以下の3つです。

  1. データバイアス: AIは学習データに基づいて判断するため、データに含まれるバイアスを反映してしまう可能性があります。これは、差別や偏見につながる恐れがあります。
  2. 制御不能: 高度なAIは、人間が理解できないほど複雑な判断を下す可能性があります。そうなると、AIを制御できなくなり、思わぬ結果を招く恐れがあります。
  3. 倫理的な問題: AIの開発・利用には、倫理的な問題が数多く存在します。例えば、AIが人間に取って代わったり、人間を支配したりする可能性は否定できません。

これらの懸念は、AI開発競争が加速することでより深刻化する恐れがあります。各企業が短期間でより強力なAIを開発しようと競う中で、倫理的な問題やリスクを軽視した開発が行われる可能性が高くなります。

懸念点への対策

提言では、AI開発の一時停止を提案していますが、これは根本的な解決策ではありません。AIは社会にとって有益な技術である可能性も秘めており、開発を完全に停止することは現実的ではありません。

では、どうすれば良いのでしょうか？ 以下、懸念点への対策案をいくつか提案します。

これらの対策を実行することで、AI開発に伴うリスクを軽減し、安全で倫理的なAI開発を促進することができます。

長期的な展望

AIは、社会に大きな変革をもたらす可能性を秘めた技術です。しかし、同時に、人類にとって大きなリスクも伴います。

将来的に、人類とAIが共存する社会を実現するためには、以下の点に注力する必要があります。

これらの課題は容易ではありませんが、人類とAIの明るい未来のために、真剣に議論していく必要があります。

日本における取り組み

日本においても、AI開発に伴うリスクへの懸念が高まっています。政府は、AI開発に関する倫理指針を策定したり、安全基準を強化したりするなど、対策に乗り出しています。

また、民間企業でも、AI倫理に関する取り組みが進められています。例えば、ソニー株式会社は、AI倫理に関するガイドラインを策定し、AI開発における倫理的な意思決定を支援するツールを開発しています。

これらの取り組みは、日本におけるAI開発の健全な発展に貢献することが期待されます。

結論は

AIは、人類にとって大きな可能性を秘めた技術であると同時に、大きなリスクも伴います。

AI開発を進めるためには、倫理的な問題やリスクを十分に検討し、適切な対策を講じ

詳細情報:Gemini が提示したGoogle検索で見つかった類似するコンテンツ
・マスク氏ら､GPT-4より強力なAIモデルの訓練停止呼び掛け｜会社四季報オンライン
・AIバイアスとは何ですか? | IBM
・生成AIに求められる倫理とは ～進化する生成AIの実態から倫理対策を考える～ | 柏村 祐 | 第一生命経済研究所
・AIガバナンスとは。| IBM
・ヒトとＡＩは共生できるのか？｜NHK
・AIの倫理: Engage AI は倫理的ですか？| AI を活用する | エンゲージアイ.co
・注目が高まるAIと人権リスク―人権マネジメント担当者はどのようにしてAIによる人権リスクに向き合うべきか― | PwC Japanグループ
・「AI倫理」はなぜ必要？ AI時代に必要とされる責任ある行動 – ITをもっと身近に。ソフトバンクニュース
・AI原則の事業者による実施とコーポレートガバナンス
・AIの進歩に警鐘！研究者が人類絶滅リスクを5%と警告、2047年までに人間超越の可能性 – イノベトピア

当サイトの関連記事
人類を超える知能を持つ「超知能AI」制御に向けた専門チーム新設
生成系AIの成果はルビコン越え？
自民党の「AI国家戦略」原案は