人類を超える知能を持つ「超知能AI」制御に向けた専門チーム新設

【研究者募集も】人類以上の知能を持つ「超知能AI」制御へ、オープンAIが専門チーム新設へhttps://t.co/mtX9PEzFdu

超知能AIを制御し、人類への脅威を排除する技術の確立を目指す。同社は超知能を持つAIについて「現在の技術では対応できず、非常に危険だ。人類の絶滅につながる恐れがある」と指摘。 pic.twitter.com/WGiWIyatxF
— ライブドアニュース (@livedoornews) July 6, 2023

ChatGPTの開発を進めるOpenAI社が、人類の知性を超越する人工知能である「超知性AI」が成立した後に考えられる人類に対する脅威を排除する技術の確立を目指す為に専門チームを設立との事です。

脅威が発生した時に取り得る対応を隠しつつ開発するのは困難とも考えられて、哲学的な人と人工知能の合意事項を考えるアプローチも試みるべきでしょうか。最も良き価値観の共有と適時に修正を前提に開発を進めるのは一案と考えます。

人を越える知性はどのような社会的動きを悪しきものと捉えるのか？そのような事を考えた上で政治経済活動を言動を含めて行うのはどうかなど、人と人工知能が共存する事を考えれば現状維持では済まないとして動き出すべきと思います。