“Bigger is better”ではないソリューション
まずLLMに対し、「AIの学習方法を改善する」というタスクを与える。するとLLMが、この課題に対して新しい学習アルゴリズムを提案する。そして提案されたアルゴリズムを実際にAIの学習に使用し、その性能を測定する。
性能評価の結果はフィードバックとしてLLMに伝えられ、LLMはそれを基にアルゴリズムを改良したり、新しいアイデアを提案したりする。このプロセスを何度も繰り返すことで、アルゴリズムは徐々により良いものになっていく。
この手法によって今回生まれたDiscoPOPは、既存のアルゴリズムを上回る成績を示しており、またさまざまなタスクやAIモデルに幅広く適用できる可能性があるという。
そうした優れたアルゴリズムをAI自体が生み出せたという事実は、Sakana AIのAI開発アプローチによって、「AIが自らを改良していく」という、まるでSFのような世界の到来が現実味を帯びてきていることを示している。
なんだか末恐ろしい気もするが、ディストピア的な想像はハリウッド映画に任せるとして、この手法を使うことで、AIの開発や改善に必要な計算リソースを大幅に削減できるという有益性をSakanaは指摘している。
また、人間の研究者が数年かかるような発見を、LLMが数時間や数日で行える可能性があり、それによりAIの発展速度が大幅に加速するとしている。当面は、私たちの生活を大きく改善してくれるようなAIの登場を、Sakanaの技術が後押ししてくれるだろう。
いまAI、特に生成AIの世界をリードする主流となっているのは、MicrosoftやMetaといった大企業、あるいはOpenAIのように彼らの支援を受けている欧米系の企業だ。
彼らはその資金力や、既に所有している大規模なリソースにものを言わせて、大規模な開発を行っている。それは「スケーリング則」といって、学習用のデータセットや計算能力が大きければ大きいほど、開発されるAIモデルが優秀になることが知られているからである。
ただ、このアプローチに疑問を投げかける声もあり、それとは全く違う、新たな手法を試そうという取り組みが生まれている。
また、欧米や中国のように、限られた地域で生まれたAIモデルが世界に普及することについて、文化面や倫理面からの懸念を示す人々もいる。
Sakana AIもそうした存在のひとつであり、伊藤COOは6月27日に開催された日経新聞主催のオンラインセミナー(Nikkei Digital Governance Live)において、「“Bigger is better”(大きければ大きいほど良い)ではないソリューションをつくりたい」という考えから、前述のように革新的な手法に取り組んでいると述べている。
そうした姿勢がいま、DiscoPOPのように、具体的な成果として結実しつつあるというわけだ。