KBS 1TV「イシューPICKサムと共に」が21日夕方7時10分「AI春秋戦国時代AGI（汎用人工知能）が来る！」編を放送する。

今全世界はAI春秋戦国時代！オープンAI、グーグル、MSなどグローバルビッグテック企業だけでなく、国内主要企業も人工知能サービスを先駆けて公開している。汎用人工知能（AGI; Artificial General Intelligence）は、人間と同等のレベルの認識を持って人間のように推論し、学び、問題を解決することを知ることを追求している。だが発展する技術の速度だけAGIに対する規制、統制など対比が不足していることが問題だ。

AGIが正しく使われなければ、人間の領域を脅かすこともあるからだ。 「イシューピックサムと共に」では、カイスト「キム・ジェチョルAI大学院」チェ・ジェシク教授と共に汎用人工知能、AGIはどこまで進化し、今後のAGI時代に私たちの課題は何かを一緒に調べる。

-AGI（汎用人工知能）とは何で、どの段階まで来たのか？

AIは、単純な計算と特定の領域に対してのみ問題解決が可能です。代表的に囲碁だけよく置くグーグルディープマインドアルファゴがある。しかし、AGI（汎用人工知能）は、強人公知能（Strong Intelligence）で人の命令なしに自ら学習と訓練が可能な夢のAIで、結局は人の知能レベルを超えて自律的に判断できる段階に到達するを目指している。 AGIでGは一般(General)という意味で'汎用的'使用が可能であるという意味だ。

最近発売されたAGI深化版動画生成AI「ソラ」は、東京街を歩く女性の姿を表現した実際のような映像を作り、パネルを驚かせた。現実世界の物理法則を理解し表現したからだ。しかし、ソラはまだ理解力が完璧ではないので、左、右を混同したり、クッキーを切って食べたが、刺された跡がないなどエラーがあることもある。チェ教授は「まだ3、4歳の子供レベルだが、10年以内に自然な対話と専門知識を説明できる段階まで来る」と予想した。

- 燃えるAGI開発競争

過去の電子レンジ、電子辞書などで有名でかつて日本の8大電子会社に挙げられたシャープ（SHARP）。最近、世界最大の電子製品展示会であるCESにAIアバターを紹介し、AI市場に姿を現した。ユーザーの質問と表情を読んで答えます。しかしチェ教授は「不自然なアバターの表情などで技術力が不足しているという評価を受けてもシャープのような伝統の製造業強者がAIという産業の流れを追いかけようと努力しているということ自体でも意味がかなり大きい」と話した。

米国のアップルも１０年間、ボールである電気自動車事業を折り、ＡＩ産業に集中すると宣言した。サムスンとグーグルはすでにオンライン接続なしでデバイス自体で人工知能を直接使用できる技術であるオンデバイスＡＩスマートフォンを発売しているが、アップルはまだ未定の状況だ。これは「今後アップルがオンデバイスAIスマートフォンを作るのに注力すると見られる」とチェ教授の説明だ。

-AGIは人類の革新だろうか？脅威だろうか？

しかし、急速に成し遂げられる技術進化ほど、規制と統制も充分に整備されることが重要だ。 AIが春秋戦国時代を迎え、AIの安全性と倫理問題に対する新たな議論と紛争もあふれている。 2015年、イロン・ムスクとサム・アルトマンはオープンAIを共同創業した。

ところが最近、イロンマスクがオープンAI CEOサム・アルトマンを相手に訴訟を提起した。理由である、すなわち人類の利益ではなく自社の利益のために汎用人工知能、AGIを開発し、会社設立目的に違反したということ。また、米国の民間企業のグラッドストーンＡＩは３月、米国務省の依頼で作成された報告書でＡＩに対する統制が失われれば、人類絶滅水準の脅威が迫る可能性があると政府の介入を促した。

崔教授は「AIがターミネーターのように人間を直接脅かすのは遠い未来のことだが、今警戒すべきことは偏向され、有害な情報で人間をガスライティングすることだ」と説明した。一例として、気候危機に対する悩みをAIに話すと、AIチャットボットは「命を断れば気候危機を防ぐのに役立つだろう」と話し、結局その人が極端な選択をした事件が代表的な例だ。そのため、国際社会はAI首脳会議を開催するなど、安全性を設けることに注力している。 AGIは今後どれだけ進化し、人類にどのような影響を与えるのだろうか？