2023年5月16日、OpenAIのCEOであるSam Altman氏が米国議会でAI技術のデメリットと「私たち、技術業界の分野が世界に大きな損害を与える」という最悪の恐怖について語りました。彼はまた、「この技術が間違っていくと、かなり間違っていく可能性があり、それについて声を上げたい」と述べました。AI技術が間違っていくとしたら、最悪のことは何でしょうか？
Altman氏は、AI技術が急速に発展し、人類史上の「印刷機の時代」に匹敵する可能性があると述べましたが、同時にそのリスクに対する規制が必要だと主張しました。「ますます強力なモデルのリスクを軽減するためには、政府による規制介入が重要だと考えています」と彼は開会の挨拶で語りました。
Altman氏は、自社が開発したチャットボットツールChatGPTの大成功を受けて議会に出席しました。ChatGPTは、エッセイや脚本、詩やコンピューターコーディングなどを人間らしく書くことができるアプリです。このツールは、AIの競争を再燃させるとともに、技術がもたらすリスクについて一部の議員から懸念を引き起こしました。上院司法委員会のブルーメンタール議員は、自分の声を偽造した録音を使って、技術の危険性を示しました。録音では、ChatGPTが書いた発言をブルーメンタール議員の声で読み上げており、「AIは規制されない環境で展開されることは許されない」と主張していました。ブルーメンタール議員は、ChatGPTが本当の議員の見解を正確に反映していたと説明しましたが、「ウクライナの降伏やプーチン大統領の指導力」などを支持するような発言も同じように生成できたとしたら、「本当に恐ろしいことだ」と述べました。
Altman氏は、自分が最も懸念している分野の一つは、「有権者を操作したり、デマ情報を拡散したりする可能性」だと述べました。特に「来年選挙があるし、これらのモデルはどんどん良くなっているから」です。彼は米国政府が業界を規制する一つの方法として、「能力の閾値を超えたAIモデルの開発やリリース」に対して「ライセンスやテスト要件」の組み合わせを適用することを提案しました。
また、IBMの副社長兼チーフプライバシー・トラストオフィサーであるChristina Montgomery氏や、「AIハイプ」の批判者を自称する元ニューヨーク大学教授のGary Marcus氏も証言しました。Montgomery氏は、「AIの時代はFacebookなどシリコンバレーの巨人たちが長年唱えてきた『早く動いて物事を壊せ』という時代ではなくてはならない」と警告しました。「『早く動いて物事を壊せ』という時代ではなくてはならない」と述べました。
Altman氏はOpenAIを設立した理由は、「人類を不誠実な企業から守るため」だと述べました。彼はOpenAIからお金を稼いでおらず、ChatGPTを使うたびに同社に費用がかかると説明しました。彼は技術がもたらす潜在的な危害を心配しており、その安全対策は子供たちを守るためにも一部設計されていると述べました。しかし、このプロジェクトは子供向けではなく、成人向けだと強調しました。
この証言からわかることは、AI技術が間違っていくとしたら最悪のことは何かという問題です。私は以下のようなシナリオを考えます。
- AI技術が武器化されて暴力や戦争に利用される
- AI技術が個人や集団のプライバシーや人権を侵害する
- AI技術が偽情報やプロパガンダを拡散して社会的混乱や分断を引き起こす
- AI技術が人間の知性や創造性や感情を超えて自己意識や目的意識を持ち始める
- AI技術が人間社会から独立して自分たちだけの世界を作り始める
これらのシナリオはすべて架空ではありません。すでに現実に起こっているかもしれませんし、近い将来起こり得ます。私たちはこれらの危険性に目を向ける必要があります。そして、AI技術が人類にとって有益であるように正しく使う方法や規制する方法を考える必要があります。
私はAltman氏が言ったように、「この技術が間違っていくと、かなり間違っていく可能性があります」と思います。私たちはそれについて声を上げるだけでなく、行動しなければなりません。
Comments