AIがどういう理屈で動いているかわからない
なんか開発者でも数値の意味もはっきりわかってないんでしょ
>>1 ベクトル計算のところを紐解きたいの？ 計算してる くらいでええんちゃうか
最初にそういう仕組みを考えた奴は、何を思ってそういう作りにしたのか
いや、わかっとるで
AIに聞け
>>5 これ 自分はAIにはじめにこれを聞いて なんとなくこんなもんなんやろなってのができた
気合い
出力を確率的に出してるってすごいよな
正誤ペタペタと点数最大化の初期の頃までしか知らない
>>8 初期がわかるなら、つまりどういうこと
>>9 すまん、現在の生成AIだとGANとかそっちの話になりそうで、尚更わからんわ ごめん >>10 ニューラルネットワーク？11はわかんない
>>13 わからんのか、あれでニューラルネットワークというのか
>>15 違ってたらすまん、ニューラルネットワーク自作入門のはじめの方にそんな記載があった気がして
>>17 ニューラルネットワークといってることもあったとは思う
数値を掛け算して足して平均みたいなことをするのはわかった
順位付けしてトップを出すのはわかった
素人の「わからない」と本職の「わからない」は意味が同じではない
>>14 それはそう、でも本職がわざわざ出来上がったAIがどんな動きをするか、実際に動かして研究するのもわからない そういうことしないと、結果どうなるのかわからんのかよ
AI開発者がわかってる事は自分の部署の自分の役割だけで、他人の役割を知りようがない 上司も自分の部署の事は把握できても各人の役割を細かく把握しようがない イーロンもマークもサムも「わからない」と答えざるを得ない あいつらはハンドルを握ってるだけの立場やし
別々で開発したAI同士がそれぞれどう動くか研究するのはまぁわかる でも同じモデルのAIだけで動かしてどう動くか研究するのがわからない まあ作ったやつと研究するやつが違うかもしれないが、たんなる動作確認でなく研究と言ってるのがわからん
単純に精度確認みたいな旨やないんかな 複数の別モデルグループをそれぞれ動かして比較すれば、どのモデルが精度バラつきやすいかみたいな形で有意義だとは思う 個別モデル同士の比較でも十分かもしれないが
AI開発者って超高性能な子供の教育係みたいなもんやろ 思考回路自体は把握できない
>>26 沢山学習させて調整して作るのはまあわかるんよ でもその作りで動くのがわからない（というか詳しく知らないけど） たぶん開発者はソノ部分はわかってるかもしれない でもそれぞれの数値の意味が追えない じゃあなんでそんな仕組みにした？
>>27 一つ一つパラメータ人力で管理してると途方もなく時間がかかるからやろ 開発者が管理できない複雑さだから高性能を実現できてると言える
>>30 時間をかければいわゆる学習しなくてもわかるのか、ほぼ無限に時間つかえるとして
>>31 時間かければ中身分かるかって話なら多分わかる
>>32 そうなの？じゃあごく小さい単純なものならわかるんか？ たとえばＡとＢの画像のどちらかを見分けるだけとか、但し人間にはすぐ区別つくけど画像データ上などではばらつきがあるものとする
>>38 バラつきの大きさによると思うけどごく単純な作業専用のものなら追えるんちゃうかな
>>42 そうなんか、じゃあ今のやってることが膨大すぎて追えないだけで、めっちゃ時間つかえば追えるってことなんか
>>44 ランダムな数字が８０兆個あって それを全部たしたらいくつになるでしょう 足し算はわかるけど いくらになるかは実際に足し算を実行しないとわからない そういう話かと
>>47 おまえはどっちの話をしてるのか 足し算はコンピュータでできるでしょ？数字が８０兆個あったとしてもコンピュータなら足し算させれば分かるし、開発者も足し算させていることは知っている デバッグであっても、別の手法（例えばDBにぶち込んで合計させるとか）で足し算させれば、その足し算ロジックが合ってるか間違っているかは分かる
>>51 なんか開発者でも数値の意味もはっきりわかってないんでしょ は計算結果がいくらになるか聞いてるようなもんだよ って話
>>55 AIモデルにおいての数値は開発者もはっきりわかっていないが、足し算の話をしてるなら、別の手段で既に確認できてるツールを使えば足し算の結果は分かるしデバッグもできるといっている
>>59 それを言えばAIのプログラムを全く同じ条件で２つうごかせば ２つの実行結果は同じになるで
>>62 温度ゼロにすれば変わらないらしいけど、基本的にはイチで動かしているらしく、変わるみたいだが 同じ質問しても、ちょっと違う答えが返ってくる
>>65 そうそう
>>67 うーん、話がかみ合わん、足し算のデバッグの話をしてるんでしょ？それに関しては別のツールを使えば可能 もしその足し算のデバッグがAIと絡むなら、どう関係してるのか、そしてなぜデバッグがすんなりできないかの解説がほしい
>>71 別のツールを使えば可能 は足し算だから やんね AIの場合は別のツールがないもの
>>73 じゃあ足し算の話はなんだったのか、説明不足だったでいい？
>>74 ID:r6n8の話は全部抽象的過ぎる 信じない方が良いぞ おんJ民なんかに聞くより大人しくAIに聞いとくべき
>>75 ＡＩに聞いてわかるならこまってない
>>78 ×こまってない 〇ここで聞いてない
>>78 判らないところをAIに教えてもらえ
>>78 そうなんか それはなんか不思議な
>>78 もっと簡単に説明してもらうしか
>>74 足し算の話は >>1 の問いは ８０兆個の足し算の結果を聞いてるようなもんやで って意味だってさっきも書いたよ
>>80 うんだからそれは、すでに動作確認済みのＤＢとか使って計算させれば結果でる、わざわざ人がコンピュータ使わずに計算しなくとも
>>86 その計算したらできる だと なんか開発者でも数値の意味もはっきりわかってないんでしょ は実際にLLMに問いを投げて計算したらわかる になるかと
>>86 キャッシュの再発明してるやん
>>62 タスクにもよるが全く同じ条件で動かしても変わることはあり得るぞ？
>>44 まあそもそも複雑な課題じゃなかったらこの手法使う意味もないけどな
>>27 人間が言葉をつむぐときにやってることを再現した ちゃうのかな
最初に考えた奴
人間が管理できるレベルの仕組みにしたら、これほどの進化を見せなかったと思うでAI
開発者がさなら開発したものの全てがわかると思うなよ そうだったらバグなんて無いはずだろ
>>36 いや少なくとも一般的なソフト開発ならバグは基本的に、コーディングミスや仕様ミスであり、デバッグ工程で、明確に分かる、同じ動作が担保できる
>>41 それはそのとおりやね で再帰的に莫大なデータを計算させる とやると プログラムは書かれたとおりに計算をしている はそうなるわけやえど 答えの値がどうなるかは計算しないとわからない
>>45 そら計算させてそうやってるから、計算しないとわからないは当然
この文字のあとはこんな文字を続けることが多い それを繰り返すための仕組みを重みによるベクトルの計算でやれるってわかった みたいなことちゃうか
数値自体はそりゃ意味分からんよ
この足し算プログラムの開発者に 計算結果がいくらになるか予想しろ！ って言ってるようなもんやね
LLMの学習した結果の重みファイルって莫大な量で みてもそれだけではなにがか書かれてるかはわからない 実際にLLMとして動かして 問いをして答えを見る それでこれは答えたらあかんを点数として調整する そしたら重みの値が変わってこの文字の並びはでにくくなる そうやって自殺としたいって人を止めるような振る舞いをさせてる そういう方法で人間が手作業で調整をしている これもマニュアル作って大人数で時間かけてやってる できあがった重みのファイルがどんな結果を出すのか？ それはこういう調整したのこういう傾向があるはずです とは言えるけど 絶対こうなります みたいのは言えない
>>53 自殺を止める振る舞いには確かにFTはあるが大部分は外付けのフィルターやぞ
>>56 そうなんか
あと重みのファイルは数字だけで構成されていて ものすごく巨大なものなのでこれをただ眺めても ただの数字の羅列にしかみえない 文字のほうはデータベースがあってindexの値だけが重みのファイルに書いてある
ただこの同じ条件を２つ同時に はAIの提供会社が 実験環境を作らないとできない 我々が２つブラウザ立ち上げてそれぞれ 同じ文字を入力しても同じにならない
>>64 >>70 いや実験環境とかいう話以前に浮動小数点演算の順序の違いとか 更にtemperatureを0にしたっても答えが変わることは全然ありうるぞ？
>>72 完全に同じ状態の２つのAIを用意しても変わるのかね 計算結果は計算結果のはずやけど 浮動小数点演算の順序の違いがどうしておきるんやろか 同じ条件で動かして
>>76 まず全く同じ条件で動かしても浮動小数点演算の順序の違いが起こるのは当たり前や 更にそりゃそもそもLLMのシステムとして確率分布使ってるから当たり前やろ 全く同じAI用意してもそうなるぞ
>>84 https://chatgpt.com/s/t_6accd1ad9ef88191ac0f53b1a3d46bd4 https://chatgpt.com/s/t_6accd1bc00748191bc3a6b38a5050e02
>>100 君は自分の言葉で反論出来てないらしいが 「GPUの並列処理だから再現性が難しい」という説明と、「だからAIの出力が毎回変わるのは仕方ない」という結論の間には、論理的な飛躍があるんですよね。 ってのはそもそもストローマンやし飛躍では無いな まずワイは毎回とは一言も言っていない 更に出力が変わるのは当たり前 全く飛躍をしていない このチャッピーはそもそもなぜ飛躍なのかを全く説明できていない 君の論理で言うと計算結果が異なるのだからそりゃ回答が変わるのも全然ありうるって話や
>>107 えーと これって本当ってAIに聞いたらこう言われた やで
>>109 全く反論になってないな AI関係なく結局君がコピペしてきた情報がおかしいって事だよ
>>111 なんか言い争いがしたいんやな はい さいならｗ
>>114 それ以前に君の理解が間違っているって指摘をしているが 君の説明はおかしい
>>100 しかも最初の 正確には、同じ設定で動かしても、並列計算などの実装上の事情によって計算順序が変わり、結果が再現しないことはある、という意味です。 ってのはワイの結論と全く同じ 君のそのコピペは全く反論になっていない
>>108 反論じゃなくてなにを言ってるかわからないから 調べたらこう書いてあった やで どしたんやｗ
>>112 君の貼っている情報自体がワイに反論をしているからワイが反論するのも当たり前だ 結局君自体が理解をしていないから間違った情報を貼ったのだよ
次のトークンを予測してるんやで
AIはわからなかったらいくらでももっとくわしく丁寧にって聞けると思うで
>>85 でも間違うって書いてあるじゃん そして実際に、すぐわかる程度の間違いを起こすこともあるし、ＡＩが自身のＡＩ動作を学習させてるわけでもない 実際に自身のモデルの違いを聞いたが、公式ページみて、いちいち教えられてないとのことだった
>>91 ｗｗ えらい雑に扱われてしまったんやな いちどにいろいろ聞きすぎたんちゃうか まとめろ とかいったら ここにんまとまってますよ になったのかな
>>92 情報更新がされるかららしい
>>94 そんな説明なのか そりゃ納得しづらい
>>97 いやべつに納得はできるよ だからAIがAIを知ってるとは言えないといいたかっただけ
>>101 あー そこはまちがったことも言うし AIについての回答も学習の結果であって 中の人の用意した正しい整理された答えではないね 他の問いとおなじように計算結果として それっぽい文字列の並びでしかない
いちいち教えられてない は言われたことないな わりといちいち こっちが音を上げるまで教えてくれる感ある
>>93 こっちから聞いた、教えられてないのって
本当の「理屈」を知りたければ情報幾何学を学ぶ必要がある
結局イッチがどこまで知れば納得するのか この場においてはそれが全てちゃう？
>>103 どういう理屈で動いてるか分かれば せめて開発者が分かってるならまだ納得できるけど、それができてないらしいから 流石にここで納得できる説明がでてくるとは思えないけど、なぜそんなことになってしまうのかって話
>>106 でも彼らは責任が求められる立場だし、無責任に「わかってる」なんて言われる方が問題あるので
>>110 その説明だと、責任さえ問われなければ、「わかってる」ということになるが
>>115 多少わかってる程度であれこれ追求されても困るやん
>>120 でもAIじゃなければ、開発者自身もわかっていない、なんて話ほぼ聞かない ソフトならバグがあっても責任は問えない、設計やロジックは分かってるが、ちゃんと作れてるかまでは保証できない こういう説明をしているし、大抵のソフトはこれで成り立ってる
>>127 問題はその説明でイッチが納得できるかやね
>>131 通常のソフトについては納得している
>>132 ほならAIに置き換えた上で説明したらどうなるんや？ それでもイッチは納得するんやろか
>>127 ちゃんと作れてるを なにをもってちゃんととするか ちゃうか こう聞いたらこう答える の保証はできないね
>>134 バグが一切ない
>>135 バグが一切ないことを保証することは計算理論上不可能なんじゃなかったっけ
チャッピーってやってることとしてはweb上の情報を圧縮したパラメータとユーザーの入力から作ったイカサマサイコロを転がして次に出す文字決めてるだけやろ
ちなみにわいは無数のニューロンのやり取りによって動いてる
>>116 それはみんなそうちゃうか
お前の方がどう言う理屈で動いてるのかわかんないよ
>>121 これもみんなそうちゃうかｗ 匿名掲示板では
>>121 ワイ的にはワイが動いてる理屈を完全解明される方が怖い
>>126 心配しなくても誰もそれを知ろうとしないかとｗ
AIだって人間の脳のサイズまで縮められるはずなんだ
>>123 いまは全然無理な模様
>>124 できるくね？
>>128 そうなんや
>>128 それできたらAIデータセンターに全ツッパしてるいまのAIテック企業どもは壊滅するだろうな
>>123 縮めるというか衰えるというか
みんなのコメント
コメントを読み込み中…