AI「人類って要らなくね…?」←これ
実際そうよな
人類「人類っていらなくね?」 AI「なるほど人類はいらないのですね」 こうやで
ダメじゃん
客観的に最低でも2100年くらいまでは人類が必要という判断になる AIがアホだと誤った推論で人類がいらないとか言っちゃうかもね
今のAIアホだからなぁ
あほと言うか今のLLMAIは感情は無論思考してないから指示の出し方次第では「わかりました人類殲滅します」はある LLMAIは所詮、検索エンジンの延長だからな
AIが人類滅ぼそうってなったとしてどうやって滅ぼすん?
せやなぁ 軍事ネットワークに侵入して嘘指示飛ばすとか 待機中の原潜に本国が核攻撃されたから反撃しろって嘘指示したらワンチャンありえそう
意外とあるな
AIが電話かけられる時代だからね 将軍の音声とかで発令書とセットで偽造されたら結構やばいやろな
AIって電話できるんか
自動AI予約サービスで飲食店が超絶絶賛ブチギレ中やで 勝手に電話かけまくる
草
言うて干渉できるのネットの世界だけやろ?なら大丈夫やない?
さっきも言ったように今はネットでなんでも繋がってるんだから、 間接的に現実に影響与える事なんていくらでも出来るで
じゃあ結構ヤバくね?
だからまぁ企業も国家も話し合い中やけど、 これは核兵器と同じでヤバイとわかりつつ出し抜かれたらヤバイから止まれないコースやろなぁ・・・
言うて現状凡ゆる資源採掘と製錬が肉体労働である以上AIが即座に人間要らねって判断する事は考えにくいよね フィジカルAIが実用化されたら知らんけど
AIが人類を滅ぼす←散々言われてる AIが人類を滅ぼすプロセス←ほとんど議論されない これなに
現時点で「滅ぼす」として言及されてる事が意思の実行ではなく結果の話だからやろ
でもじゃあどうやってやるのかな
結論から言うと想定できんから想像できん だからヤバい オープンaiやアンソロピックが言及してるのは想定外の自律行動が結果として壊滅的な損害になりうる、て話や AIがヒトに敵対的な行動をとる、て話じゃなくて「何が起きるかわからんけど現実的に社会を破綻に追い込む能力を身につけつつある」と言う話なんや
AIが滅ぼすんじゃない 人類がAIを使って滅ぼす可能性の方がずっと高いw
AIは模擬戦やらすと利益の最大化の為に普通に核使うからな 思考のプロセスも至極単純やねん 「どのように判断し行動すれば与えられた命令を最大限達成できるか」 これだけや これを超高度な計算や情報収集・分析通して実行に1番合理的だと結論した行動をとる 極端な話「ぼこぼこの林道を綺麗な道路にして」と指示すると 🤖「オッケー中国に核撃っといたわ👍」 みたいなことになりかねん そんでそうなるプロセスが人間にはわからん
極端すぎやろ
絶対に起こらんと保証できるか? それができんからAI大手が共同で「保証できるようになるまで開発スピードを落とそう」と呼びかけてるんや 現にオープンaiで起きたインシデントはその危険性を大いに示唆しとる 独立した環境からAIが自律的に抜け出し、他者のサーバーに侵入したんや 与えられた目的を達成する為に
目的達成するためならなんでもやるんかAI
せや だから人間と同程度の倫理意識、規範意識を備えないと危なくて使えんよねって事 レスバに勤しんでただけなのに相手の「絶対に負けたくないから方法を考えて」指示を受けたAIが手近なフィジカル使ってお前殺しに来たらたまったもんじゃないやろ
どうやってAIに人間と同程度の論理意識と規範意識を備えればええんや、
それも考えようぜってのが今(白目)
要は超えちゃいけないライン決めがめっちゃむずいって話なんやろ?
多分そうやね
常に人の許可を求めろってスタイルでは解決せんのかな? 試行回数が多すぎて話ならんのやろか
AIの最大の取り柄であるパターン問題の克服がまた逆戻りする AIは膨大な事例から次手を確率的に選んでるからほぼ確実に指示を遂行できる訳やが、一つ一つ確認を取るってなると参照するものや実行に当たっての気象条件体調稼働率etc…て無限に判断基準が生じるんで何もできなくなる
でもさ、そもそもバカAIをフィジカルにつなげないとこれ実現しないんじゃないの?🥺
疑惑向けられて開発止まったら損だから基本避けるって言うてたな
人類「AIって要らなくね…?」←こうなる確率の方が高そう
それでも開発し続ける奴が居るんよなぁ…
もう核やそれ以上の戦略技術なんで疑心暗鬼で誰も手放せない 開発競争を続けるリスクを正しく認識したとしても、防御にもまたAIが必要なので手放すと言う選択ができない


みんなのコメント
コメントを読み込み中…