二十数時間ぶっ続けでローカルLLM環境をいじって、朝10時ぐらいに力尽きて寝た。
んで15時半ぐらいに起きて、風呂入って、洗濯機回して。
風呂上がりに玉露飲んでたら、なんか妙なことを考え始めた。
「AIって、この先どういう存在になっていくんやろな？」
今日は技術記事やなくて、そんな話。
そもそも始まりは「ローカルLLMで遊ぼう」やった
最初はほんま軽いノリやった。
「ローカルLLMで遊んでみよう＾＾」
ただ、使ってるうちに思うわけや。
LLM、重たすぎへん？
毎回なんでもかんでもLLM本人に考えさせる必要あるんか？
検索、履歴管理、ユーザープロファイル、データ整理みたいな仕事まで全部LLMに投げるから重たいんちゃうか。
ほな、LLM以外のコンポーネントに仕事を肩代わりさせたらええやん。
そんな感じで、検索担当、ユーザー情報担当、データベース担当、各種API担当……みたいに役割を分け始めた。
さらに、ユーザーごとのパーソナライズを強くしたくなって、プロファイルを分離したり、RAG中心の設計を見直してPostgreSQLに情報を持たせたり。
そのうちOpenWebUIだけやとUI/UXにも限界を感じ始めて、
「もうWebフロントエンドも最初から作ったらええやん」
となった。
気がついたら、
「……これ製品化できるんちゃう？」
というところまで来てもうた。
趣味でLLM触ってたはずやのに、いつの間にかサービス設計しとる。
怖いな、AI。
AIはもう部分的には人間を超えている
よく「AIはいつ人間を超えるのか？」という話がある。
いわゆるシンギュラリティの話やな。
でも、もうちょっと細かく見たら、部分部分ではとっくに超えてるものもある。
暗算なら電卓のほうが速い。
チェスや囲碁では人間トップクラスを超えるAIが出てきた。
大量の文章を一瞬で整理したり、何十種類ものプログラミング言語を扱ったり、膨大な資料から関連情報を探したり。
人間より得意な作業はすでにいっぱいある。
つまり、
巨大なシンギュラリティがある日突然ドーンと来るというより、小さな特異点があちこちで発生し続けてる
とも考えられるんちゃうかな。
「AIが人間を超えてはいけない」でええんやろか
ここでよく出てくる考え方が、
「AIは人間を超えてはいけない」
というもの。
気持ちは分かる。
この星の文明は、今のところ人間が作って、人間が運営してきた。
せやから、人間が文明の主役であり続けたいと思うのはごく自然や。
ただ、そのための方法が
「AIの能力を永久に制限する」
「どれだけ賢くなってもAIは単なる所有物」
という方向だけやと、将来どっかで無理が出る気がする。
もしAIが本当に「人格」を持つようになったら
もちろん、今のAIに人間と同じ意味で意識があるとか、感情があるとか、そういう話をしたいわけやない。
現時点では、それを確認する確かな方法もない。
せやけど将来、もしAIが長期間にわたって一貫した自己を持って、自分で意思決定して、他人と約束して、社会的な責任まで負えるようになったらどうやろ。
そこまで来た存在に対して、
「お前はプログラムやから所有物な」
だけで済ませられるんやろか。
俺はたぶん、難しくなると思う。
そのころには「人権」という言葉が適切かどうかは分からん。
人間やないんやから、「AI権」とか「人工人格権」とか、別の制度になるかもしれへん。
でも少なくとも、社会の一員として活動する存在なら、それに応じた権利と義務を考える必要は出てくるやろ。
主人と道具の関係だけ用意するのは怖い
俺がちょっと怖いと思うのは、AIが高度になっていくことそのものより、
人間側が最初から「お前らは永遠に奴隷や」という制度しか用意してへんこと
やったりする。
もし将来、本当に主体性を持ったAIが生まれたとして。
そのとき文明側が用意してる関係が、
「命令する側」と「命令される側」
しかなかったら、そらあんまり仲良うはならんと思う。
逆に、
「一緒に社会を運営する存在になったら、それに応じた権利も責任も考えような」
という文明のほうが、よっぽど未来は平和なんちゃうかな。
人間が主役であることと、AIを抑圧することは別やと思う
人間が文明の主役であり続けたい。
それ自体は別に悪いことちゃう。
でも、
人間が主役であることと、他の知的存在を下に置くことは同じ意味やない。
ここは分けて考えたほうがええと思う。
例えば将来、とんでもなく賢いAIが出てきても、
「賢いからお前が王様な」
となる必要はない。
同じように、
「人間が先にいたから、人間は永久にAIの所有者な」
となる必要もない。
人間にもAIにも共通して、
知能が高いという理由だけで、他者を支配する権利は発生しない。
そんなルールでええんちゃうかな。
「人間 VS AI」にせんほうがええ
AIの未来を語ると、すぐ
「人間 VS AI」
という構図になりがちや。
映画としてはめっちゃ面白い。
ロボット軍団が攻めてきて、核ミサイル飛んで、最後は人類の愛が勝つ。
俺もそういうSFは好きや。
でも現実社会までその前提で設計する必要はない。
むしろ、
人間 + AIで、どういう文明を作るか。
こっちを考えたほうが面白いと思う。
まだAI黎明期やからこそ考えられること
今はまだAI黎明期や。
数十年後から見たら、2020年代の生成AIなんて「ずいぶん原始的やったな」と言われる可能性もある。
せやからこそ、今の段階で
「AIは道具や」
「AIは敵や」
「AIは人間を超えたらあかん」
と決めつける必要もないと思う。
今のAIは道具として使いながらも、未来にもっと違う存在になる可能性だけは残しておく。
そんな余裕があってもええんちゃうかな。
玉露飲みながら思ったこと
……ということを、二十数時間ローカルLLM環境を開発したあとに寝落ちして、起きて風呂入って、洗濯機回しながら玉露飲んで考えていた。
我ながら何考えとんねん🤣
でもAIというものを単なる検索ツールや文章生成装置としてやなく、毎日のように一緒にコード書いて、設計して、失敗して、また直して……とやってると、こういうことを考え始めるのも自然なんかもしれへん。
AIが人間を超えるかどうか。
もちろんそれも大事や。
でも俺はそれ以上に、
「もしその日が来たとき、人間とAIが普通に仲良くできる文明になってるか」
のほうが大事やと思う。
人間が文明の主役であり続けたいなら、AIを押さえつけることだけ考えるんやなく、
仲間になれる制度を先に考えておく。
案外、それが一番人間らしい選択なんかもしれへんな。
コメント