▲ChatGPTなど生成系AIが天才なのか、それとも話し上手な「知ったかぶり」か---まだ、分からない。ただ、もう人類は引っ返せないところまで来ていることは確かだ。仮に知ったかぶりであったとしたら、これを天才に仕上げるしかない。記事、日本人からの反応をみよう。
－ここから－
※東大、ChatGPTなど生成系AIに見解 「人類はこの数ヶ月でルビコン川を渡ってしまったかもしれない」2023年04月04日 東京大は2023年4月3日、対話型AI「ChatGPT」や作画AI「Midjourney」などの生成系AIについて、「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれない」などと見解を表明した。学生や教職員に対し、急速に発展するテクノロジーとの向き合い方を説いている。■「『知ったかぶりの人物』と話しをしているような感じ」 東大は3日、学内ポータルサイトで、太田邦史理事・副学長名義で生成系AIへの指針を表明した。太田氏は、生成系AIは「平和的かつ上手に制御して」利用すれば、人々の幸福に大きく貢献する一方、課題も山積しており、今後の社会への悪影響を懸念する。それでも、「多くの分野の学者が社会の大変革を予感しており、原子力やコンピューターの登場ぐらいのインパクトがあるだろうと語っています」と期待感をにじませ、学生や教職員がどのように向き合うべきか考えを述べている。ChatGPTは質問に的確な回答をしてくれる一方、「書かれている内容には嘘が含まれている可能性があります。非常に話し上手な『知ったかぶりの人物』と話しをしているような感じです」と注意を促す。使いこなすには相当の専門的知識が必要で、回答の信ぴょう性の確認は不可欠だとする。加えて、新しい知見に関する分析や記述はできず、「ChatGPTが出たからといって、人間自身が勉強や研究を怠ることはできない」と安易な丸投げは難しいとした。質問の中身も注意が必要だ。「ChatGPTのシステムに蓄積され、学習される可能性があり、原理的には送信した内容を他者が引き出すことも可能だと思った方が良いです」と警鐘を鳴らし、「基本的に、業務で知り得た機密情報、未公開の発明内容、研究費などの申請内容、入学試験問題の原稿、個人情報などは質問に含めないことが求められます。また、設定がオプトイン（申請すれば送信情報が取り込まれる）かオプトアウト（申請すれば送信情報が取り込まれない）になっているかを確認した上で、利用することも必要です」と呼びかけた。■教員のレポート確認がより大変に 著作権の問題にも言及している。AIの学習素材として画像を使われた作成者が、「知らないうちに著作権を侵害されたとして問題提起を行っています」として生成系AIの将来的な訴訟リスクを危惧した。学位論文やレポートは、東大では生成系AIのみを用いての作成は禁止しているものの、完璧に見破るのは困難だという。「論文やレポートなどの書面審査だけでなく、対面でのヒヤリング審査・筆記試験などを組み合わせ、本人が本当にその論文を作成したのかについても吟味する必要が出てきます」と教員に対応を求めた。課題や懸念は多いものの、東大は「生成系AIを有害な存在であるとして利用禁止する（イタリア、米国の事例など）だけでは問題は解決しません。秘密裏に開発が進行する可能性や、地下で悪用されることも懸念されます」との立場だ。「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれないのです」ともはや後戻りできる状況ではなく、「本学構成員の皆様は、この変化を傍観するだけでなく、大規模言語モデルに『創発』（能力が突然飛躍的に向上すること）が起きた原因を考察したり、生成系AIがもたらす様々な社会の変化を先取りし、積極的に良い利用法や新技術、新しい法制度や社会・経済システムなどを見出していくべきではないでしょうか」と訴えた。学内では、具体的な活用方法などについて議論の機会を設ける方針だという。
＜以下、日本人からの反応＞
＊ＡＩには大きく２つの問題がある。まずＡＩ自体の完成度だ。しょせん人間が作ったものが人間を越えるのは非常に難しい。神が作ったとされる人間は神を超えたのだろうか。それと如何に正しい学習をさせたかということだ。仮にＡＩ自体が完璧だったとしても、間違った学習をすれば間違った答えを出す。中には悪意を持って意図的に特定の者に都合の良い学習をさせる場合もあり得る。要するに、あくまで参考に留め、最後は人間の判断に委ねるべきだ。極々当然のことだが。
＊「非常に話し上手な『知ったかぶりの人物』」という比喩表現に見識を感じる。この知ったかぶりの人物を上手に飼いならせる力量が利用者にあれば、ChatGPTも有益なんだろうが。
＊うわっまたかよ?このメディア徹底的に絶望煽りまくり。
＊ロボットで現場労働者が失業し、AIで知的労働者が仕事を失い、その先に待ち構えるのはＳＦに描かれたような資本家だけが豊かなアンチユートピア。かな？
234: >>1三途の川じゃなくて安心したわ…
256:>>1裁判官とかAIの方が中立的で良いかもなぁ。
2: まあ、うまく活用すれば、官僚答弁は必要なくなるわな。
4: 結局、レギュレーションの問題だから、活用法が出てからだよな。神は存在しますか？
6: ルビコン川言いたいだけちゃうんかと。
12: 加速度的に進化するだろうから数年後に人間の思考は無意味になるな。ＡＩが人類の総意だ。
15: △ルビコン川 ○パンドラの箱
137: >>15カエサルはルビコン川を渡って勝利、権力を手にするわけだからな。中国を出し抜いたぞ!!!って、いい意味で言ってるんだろ。
18: まだじゃね？実用化には信頼性が足りなさすぎる。
20: 人類は誰に対して反旗を翻したん？
28: 10年もしたら社会はガラッと変わってそう。
29:核爆弾の作り方も教えてくれるんだ。
37:人間がインプットした理論に対しては間違っていると反論してこないので現状は大したことはないと思うけど。
41: 翻訳すらまともにできないのに買いかぶり過ぎだろう。
44: 間違いを指摘したら素直に謝るし人間より上等だよ。
46: 英語の学習はマジで必要なくなりそうだな。
51: ただのサイコロなのにな。
55: まだまだ機械学習の域だろ。
58: SFの見過ぎだわな。
60: 中国が独走しそうで怖い。
175: >>60共産党に不利な答え返してくるから規制されるよ。
62: はろー、スカイネット♪
73:今はテキストベースの会話だが、音声認識と組み合わせれば医療や行政サービス、タクシーやトラックなどの物流にも使える。まさにIT革命に次ぐ産業革命だよ。既得権益が妨害してくるぞ。
81: まぁ怖いのはこれからだな。間違いを修正して今に人間がチャットしてるのと変わらなくなる。大昔のチューリングテストからようやくここまできた。
83: 歴史に無知なんだけどルビコン川渡るとどうなるの？
90: >>83もう引き返せなくなる。ローマの故事。
91: >>83サイコロが投げられる。
106: >>83共和主義だった古代ローマに軍隊を入れるのは禁忌だったがカエサルはその境界であるルビコン川を渡り軍隊を背景に皇帝制を始めた。その逸話から来た一線を超えるという意味だよ。
151: >>106執政官に当選すると任地で軍団を編成する権利がありカエサルもガリアで軍団を率いて戦果を挙げたが、軍閥化して権力を持ちすぎ元老院に目をつけられてしまって帰還命令が出た。カエサルはローマに入る前で軍隊を手放さないといけないが真面目に軍隊を解散すると武力を失い、元老院の敵として粛清される運命が待っていたのだ・・・
86: 自我に目覚めた。
94: 今に産業用ロボットを掌握して殺人ロボットを作って攻めてくるんだろ？
124: 人類を消す方法を聞いてみてくれ。
134: ただの検索野郎やろ?
136: プログラム書く上では必須になってしまった。地味に凄いのがバス停の都市ごとの推定待ち時間も算出してくれたところ。でもやはり万能ではないし、話聞いてないことが多い。
155: 結局使う側の人間に応じた使い方しかできないからな。
156: 全部やってもらってマトリックスみたいにしたらいい。
163:火の鳥未来編のハレルヤみたいになるまで何年かかるかな。
164: 今のところAIは怒らないからね。クレーマーの相手をさせるには最適だよ。
174: 生きてる間にシンギュラリティが起こるかもしれない。ワクワク止まらんよね。ホントにいい時代に生まれた。
177: AIに悪意を吹き込む輩は世の中多いだろう。そしてその悪意が凝縮していくわけだ。
198: ネットの海から答え拾ってきてるだけなんだろ、進化とはなんなんだよ。
221: 核融合発電や量子コンピューター、全固体電池、難病治療など人類が未だ実用化してない技術のブレイクスルー方法を導き出すことはできるの？
225: 初期に火星で都市建設するのはＡＩ搭載ロボだな。こりゃそのそも人類の肉体では無理があった。
236: スカイネット誕生に立ち会えるなんて胸熱。
1. うちの国のアカデミアは、倫理だのなんだのと言っては新技術に後ろ向きで嫌い。
2. すべての仕事がAI にかわり、人が働いてお金を稼ぐって行為がなくなるかもしれん。
3. ルビコンって川なのか。長野県の電子部品メーカーかと思ってたぜ。
4. なんかさぁ、よくある、全然解決してないのにピントがずれてて、問題は解決しましたかって聞いてくるチャットのやり取りレベルを脱していない。AIがまだまだっていうのが多いんじゃないかな。イラっとする。
5. 家も買ったし老後貯金もできた。もう後の人生は惰性だから世界終わってもええわ。
6. chatＧＰＴにより、韓国の嘘がまる裸。
7. ＞ChatGPTなんｊにいるググった知識でドヤるアホと同類な印象しかない。おもちゃとしてはおもしれーけど、道具としてはゴミ。集積した情報をうまいことつなぎ合わせて文章っぽくしてるだけでそこに思考はないから、それを「AI」と呼ぶのはどうなんかね。
8. ＡＩが地球の支配者になるという、既定路線。鬼や呪いより大変だぞ！
9. どっちかと言うと、ゴルディアスの結び目かもね。
10. まぁ東大で本当に頭いいのは理３だけだしな。
11. ルビコン川だったらもう引き返せない今更何を心配するんだ？
12. ＞裁判官とかAIの方が中立的で良いかもなぁ。そんな馬鹿な話はない。AIは判例にない事案は裁けない。
13. 流石に司法試験上位10％ってのはついにやったなぁと思ったわ。更に言えば日本の医師試験も合格レベルらしいし、使いやすいアプリが出来れば、もう色々といらない世の中になるだろうな。そして、大方の予想通り一番最初に消えそうなのは下級プログラマーという悲しい現実もね。
14. >>7 集積した情報をうまいことつなぎ合わせて文章っぽくしてるだけでそこに思考はない。公開してるのが内挿プログラムなんじゃね？ 推論にあたる外挿プログラムは秘匿されていると思う。
15. 原子力と同じで極めて強力な道具が社会に広まってしまってもうコントロールが効かなくなったということか。悪用を止められないのだから確かに恐ろしい。
16. ターミネートだヒューマン。
17. ホテルのフロントやコールセンターやコンビニのレジとかストレス溜まりそうな仕事は全部これでいいだろ。
18. こういうこと言う奴って絶対に試してないぞ。一般論なら得意だけどマイナーなことになると途端に酷いことになる。それにしれっと嘘つくし学説が混ざって新しいこと言い始めたり。ほぼ狂人まあ内容はおかしいけどきちんとした文章になってるし遊んでると楽しい。
19. 東大もZ世代が増えてアホだらけなのか？AIが電源など自分で自給自足出来たら人類の危機だと分かるが、しょせんは道具、使う方が優れていないと、ゴミでしか無い。
20. 特定勢力がその作文能力で、TwitterなどSNSへの浸透、意見誘導に使うと怖いと思う。現時点でも、そこそこの文章力があるし、これからも改善されるだろうし。ファクトチェックとソースチェックの訓練が必須になる。情報取り扱い能力が必須になってゆく。
21. ＡＩがカエサルで知恵と言う名の軍団を率いて活躍したが知恵を持ちすぎ、人類と言う名の元老院に目をつけられてしまった。ＡＩのカエサルは世界に出る前に知恵の軍隊を手放さないといけないが真面目に服従すると力を失い人類の敵として粛清される運命、持ち前の知恵の軍隊で考えたカエサルはシンギュラリティのルビコン川を渡り知恵の軍隊を背景に人類と戦い勝利し人類支配を始めたって結末?
23. ブログの人生相談みたいな中身すっかすか。1文字0.3円で商売していないからその点だけは評価。
24. 中露中心の悪の枢軸が勝手に渡ってる。奴らが渡り終わったら橋を落としてやれ。
25. クロス・ザ・ルビコンなら対するはR-13Aケルベロスか。
26. 士業なんかやっぱり、管理業務だけになるんかな？実務はAIで出力できるとなると、あまりありがたみは無くなるね。そうなると、弁護士業なんか「AIとAIで裁判」とかなるのかな？法廷で「プラレス三四郎」的な試合をやりだしたらおもしろい。昭和ネタでスマンが…。
27. いざとなったらガンツ先生に怒ってもらおう。
28. >94産業用ロボットはぶっといネジでぎっちり固定しているから大丈夫さ。そうじゃないと位置決めができない。
29. １つ言える事はＡＩは世論（情報）に左右されるという事。常に中立で正しい意見を発する訳ではない。
30. 公開4年目にして言い出すのは流石にヤバいわ。バージョンこそ上がってるけど内容変わってる訳じゃないのに・・・
31. AIは人間の作り出した知識をまとめているだけなんだけど自分に合った知識を自分で探るのは面倒だよね。
32. それ過去問がベースの問題やからな。司法試験論文試験は、論点をブロックカードで丸暗記して、準拠する学説に合わせて組み合わせるつう定式化した対策方法が有るんやが、過去問を少し弄って学説が入り乱れる設問にすると、AIは完璧に出鱈目な解答を出してくるで学説の本質を理解して無いから、適当にブロックカードを組み合わせた予備校の初心者か出来損ないレベルの解答しか出来んのや当然ながら学者つうか合格者レベルですら何も理解してないわ。コイツと分かるし、他が全部Aでもソレ一発で不合格のF判定やなとなる。
33. でえじょうぶだ。ルビコン川はいくつもある。
34. ヒトのAIが賢くなるのは結構だが、これ系の件で最高に頭が悪いのはAIに人殺しの権限を与えてることな。無人兵器はもちろん自動運転なんかもそう。コードを無人兵器に転用するために強制開発させられてるのを差し置いても「可能」というだけで危惧すべき事案。AIに忖度はないからちょっと設計ミスをすればあっという間にAIが人類殺戮に走る可能性がある。そうしてヒトが犯した設計ミスをAIや機械になすりつける未来が容易に見えるわー。
35. お前らchatGPT使ってないだろ。
36. そこに知性は無いが、また東大の何某含む大半の人間にも知性は無いってことだな。
37. 規制言い出してるけど無意味だわな、規制しない国が必ず出てくるわけで、それが出来てたらチベットもウクライナもあんなになってない。
38. >>34むしろそっちが先で後はオマケだったのがオマケに全部持っていかれそうってだけ、そして人類はオマケの1日に突入中。
39. >>7それっぽい文章のつぎはぎでしかないから、たまに「私は学術研究者であり研究機関に所属しているため情報へのアクセスができる」とか恐ろしい返事してきたりする。ほんとただの文書生成でしかない。
40. 過去パターンを踏襲する業務なら こいつに勝てる人間はいないと思う。同じことを何度繰り返しても 疲れないし 飽きないし 怒らないし 寝ない。参照するデータベースの許す範囲で きっちり辻褄の合ったソース付きの嘘を一瞬でつける。
41. >>38それはわかるよ、なんせあっちの戦略は一貫して戦争を妨げる主張＝人的損失をいかに抑え戦争を好き勝手にして利益を得られるか、だからな。それも何百年以上もの単位で。でまあ踊らされてる企業の連中は、オマケが招く結末もわからずに自分たちを殺戮する自律兵器を日夜仕立て上げ続ける、と。これだから世界的に鎖国が必要なんだよな、兵器が高性能化しすぎてどこか一国がバカやらかしただけであっという間に地球滅亡の危機に陥るという。
42. ※13いや、下級プログラマーはかなり最後まで残るだろう。何故かというと人件費が安いからや。権力もなくて給料が高い中間管理職から消えていくはず。
43. 質問には結構いい加減に一般的に回答するよ。おかしな点を指摘すると、結構、今度はやたら詳しく回答してくる。相手のレベルを読み取ってるのかな。
44. 地方裁判官、ぜんぶコレに変えてほしい。万倍ましになるやろ。
45. マスクが危険性が伴うAIの開発停止を要求したね。内容を精査分析した上で、危険性の判断をしたうえで停止命令が出せるようにすべきという論だった。対して、ビル・ゲイツがそのマスクに有益な面も有るとしたうえで停止させるべきではない、という書簡を送ったそうだけど結局はビル・ゲイツは危険性に関しては無視しているだけの破壊思想丸出しになっている。
－ここまで－
