人工知能ディープラーニング機械学習の数学 ★3
- 1 ：デフォルトの名無しさん：2020/08/30(日) 14:03:08.57 ID:984l5rTT.net
- 人工知能ディープラーニング機械学習の数学 ★2
https://mevius.5ch.net/test/read.cgi/tech/1551746188/
- 2 ：デフォルトの名無しさん：2020/08/30(日) 15:41:31 ID:SIGgCZID.net
- 「カーネル法と深層学習の数理」
http://ibis.t.u-tokyo.ac.jp/suzuki/lecture/2020/index.html
- 3 ：デフォルトの名無しさん：2020/08/31(月) 09:30:41.96 ID:pX0ZQbZW.net
- >>1 O2
https://www.youtube.com/watch?v=vU-JfZNBdYU
https://www.youtube.com/watch?v=TLY2NPpxd58
- 4 ：デフォルトの名無しさん：2020/08/31(月) 23:14:47.60 ID:oz2B0Pqc.net
- DL SEMINAR
https://deeplearning.jp/seminar-2/
- 5 ：デフォルトの名無しさん：2020/09/01(火) 12:31:10.94 ID:/NSRorCL.net
- キテマス
- 6 ：デフォルトの名無しさん：2020/09/01(火) 14:46:43.38 ID:ZiSjKujf.net
- キマス
- 7 ：デフォルトの名無しさん：2020/09/01(火) 17:55:43.73 ID:P+HE8gCT.net
- キマシタ
- 8 ：デフォルトの名無しさん：2020/09/01(火) 20:13:50.16 ID:upJ4O3dQ.net
- 脳裏にMr.マリックのテーマソングが鳴り響いた。
- 9 ：デフォルトの名無しさん：2020/09/11(金) 08:21:49.22 ID:ZYCSiV9r.net
- 来る きっと来る 季節は白く～
- 10 ：デフォルトの名無しさん：2020/09/12(土) 15:29:17.81 ID:LQxWajnr.net
- 来るではなくウーウーだという9にとって残酷な真実
- 11 ：デフォルトの名無しさん：2020/11/05(木) 13:57:31.18 ID:ju4xQRft.net
- 母集団が3,240,549件で割合がほぼ50％（厳密には、49.6：48.9）で
棒グラフが直角に動く変動をすることがあるのかな
https://www.lifesitenews.com/news/voter-fraud-concerns-surface-over-sudden-unexpected-biden-jump-in-wisconsin-michigan
- 12 ：デフォルトの名無しさん：2020/11/05(木) 14:02:22.89 ID:S2JbA5Sr.net
- ↑
今朝の虎ニュースで指摘された問題点
垂直に上がるとしてなぜ売電だけで切り札のは(わずかでも)上がってないのか
票数の上がった割合とその瞬間での投票率の比率が可笑しい(全人口が急に10倍になったか)
とか色々言われてた
- 13 ：デフォルトの名無しさん：2020/11/08(日) 21:30:19.97 ID:S3lLfsw3.net
- >>11
全体でみると半々かもしれないが、局所は違うから…
- 14 ：デフォルトの名無しさん：2020/11/10(火) 20:07:57.17 ID:3rpG1kGO.net
- https://twitter.com/i/status/1326100599948013571
統計的に有り得ないとニュースでも言われてるぞ
(deleted an unsolicited ad)
- 15 ：デフォルトの名無しさん：2020/11/11(水) 09:54:50.16 ID:tAzuyT8U.net
- 母数が有効人口を超えることは統計的に有り得ないな
- 16 ：デフォルトの名無しさん：2020/11/11(水) 19:07:33.73 ID:CiBMow/l.net
- AIcia Solid Project わかりやすいしおもしれーと思って来てみたら、既に貼られてた
この人、ヨビノリの放送でエントロピーに関して質問してて、東大博士だとか言われてたな
- 17 ：デフォルトの名無しさん：2020/11/11(水) 20:34:58.09 ID:98b11ZDo.net
- 何のことかと思ったら売電のことか
- 18 ：デフォルトの名無しさん：2020/11/12(木) 11:31:23.46 ID:f5BAQJxF.net
- AIciaは可愛いし話の内容も面白いけど
聲のギャップで脱落者多いと思うのが残念
最期まで聴ける人は多分少ない
- 19 ：デフォルトの名無しさん：2020/11/12(木) 14:32:14.75 ID:svuT5wEO.net
- まぁでもおっさんが変声して完全受肉するよりは好感
- 20 ：デフォルトの名無しさん：2020/11/12(木) 23:27:36.22 ID:svuT5wEO.net
- ちなみに物理教えてくれる美少女AIも最近よく見てる
Sabine Hossenfelder って言うんだけど、感情の載った表情ほとんどしないのでちょっと怖い
ディープラーニング使ってもう少し表情豊かにした方が良いと思う
- 21 ：デフォルトの名無しさん：2020/11/25(水) 19:13:24.21 ID:nXT1AK4P.net
- ＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
- 22 ：デフォルトの名無しさん：2020/11/29(日) 00:00:03.46 ID:GnQH3nQR.net
- https://kuizy.net/sketch/8419/20201128/8419_111661_940778
判定がガバガバなので、誰かちゃんと作り直したほうがいいのでは
- 23 ：デフォルトの名無しさん：2021/01/01(金) 14:13:39.35 ID:5fP39+Wy.net
- AlciaのCNNの内積説明は感動した。
- 24 ：デフォルトの名無しさん：2021/01/01(金) 21:49:07.67 ID:Ut0JmXmP.net
- そもそも画像データとかの類似度を図るのは大体内積だね
正規化したりなんか小細工してても基本内積だよね
- 25 ：デフォルトの名無しさん：2021/01/14(木) 09:49:01.32 ID:4quR9ect.net
- googleのTensorFlowガイドの一部、訓練をkerasで実装したサンプルで__call__をオーバーライドするんじゃねーよ！
fitしたのにbuildが呼び出されてなくてsummary出来ないじゃないか！
正しくcallを定義しろ！
- 26 ：デフォルトの名無しさん：2021/01/15(金) 09:34:06.07 ID:CBMjbZAp.net
- TensorFlowのAPIマニュアルのcustom_gradientのlog1pexpについて
これをテープで自動微分させても勾配はNoneのままなんだが、なんで？
tf.exp(100)=infだからgrad()が計算できてないからじゃないかと思うんだけど、どうなん？
- 27 ：デフォルトの名無しさん：2021/01/21(木) 15:51:55.02 ID:e1j6x1hx.net
- tensorflow.orgのTensorFlowガイドのNumPy APIの
unvectorized_per_example_graeients 関数が、
ColaboratoryのGPUで動かすとCPUで動かした時の7倍の実行時間になる 7ms vs 49ms
なんだろ
GPUに転送するオーバーヘッド？
- 28 ：デフォルトの名無しさん：2021/03/27(土) 11:55:18.61 ID:wQV7HUuL.net
- 文系は黙ってろ
京大准教授なのになぜか名古屋大学で出版
「数学苦手な」研究者が説く統計学の可能性 PCR検査からAiまで
https://www.kyoto-np.co.jp/articles/-/536424
amazon
dp/4815810036
- 29 ：デフォルトの名無しさん：2021/03/27(土) 12:40:52.51 ID:CPTj8XdP.net
- PyTorchは良いぞ
- 30 ：デフォルトの名無しさん：2021/04/14(水) 11:02:51.16 ID:VbpKhDaQ.net
- FP率が高いPCR検査で感染者の実数の把握を試みると、
誤差が指数関数的に増大するアルファインフレーションの典型例のような現象が起きるけど
統計の専門家の立場から指摘する奴は居なかったのか？
8割おじさんとか、疫病の数理モデル作ってるなら、知らないはずないだろう
- 31 ：デフォルトの名無しさん：2021/04/14(水) 12:26:35.10 ID:Uoz8Ik5O.net
- そもそも「感染者」の測定の仕方があまりにも恣意的なので
統計的な議論をするのは困難
- 32 ：デフォルトの名無しさん：2021/04/14(水) 12:30:55.60 ID:7tHprJG0.net
- PCRはウイルスが居る時期でないと判定できないからと、別口では抗体で調査してなかったっけか？
- 33 ：デフォルトの名無しさん：2021/04/15(木) 09:57:51.71 ID:jdDCDO+f.net
- 現在、日本で認可されてるコロナウィルス感染キット
https://www.mhlw.go.jp/stf/newpage_11331.html
コーラでも陽性になったとかよく解らん噂があるけど、
偽陰性より偽陽性が高い傾向が有るから、検査数を増やせば名目上の感染者数が実数より増える
- 34 ：デフォルトの名無しさん：2021/04/15(木) 21:21:07.98 ID:hEZqbZva.net
- >>33
それは系統誤差として処理できるはずだが
- 35 ：デフォルトの名無しさん：2021/04/15(木) 22:15:00.55 ID:SpboC3ge.net
- >>33
各種派生タイプに感染出来るキット？
- 36 ：デフォルトの名無しさん：2021/04/16(金) 00:41:15.11 ID:7lcLQumv.net
- >>34
一部のキットだけの系統誤差なら除外できるが、全てのキットで偽陽性が出るから、測定自体に系統誤差があって役に立たないという話ではないかな？
- 37 ：デフォルトの名無しさん：2021/04/16(金) 10:36:53.48 ID:FQV4JS2l.net
- >>36
数を知りたいだけなら他の方法論と組み合わせれば
系統誤差がかなり正確に求まるのでは
- 38 ：デフォルトの名無しさん：2021/04/16(金) 11:54:29.70 ID:QiXYIn6/.net
- 異なる測定方法を交差させて精度を上げるテストなんて実際にやってないだろう
重症者数はニュース性があるかもしれんが、感染者数を毎日速報で流すような茶番は早く終わらせ欲しい
- 39 ：デフォルトの名無しさん：2021/04/16(金) 22:15:32.50 ID:Yv5TctbW.net
- Σ(日々の感染者数)＞日本の総人口
を証明せよ
- 40 ：デフォルトの名無しさん：2021/07/15(木) 09:23:29.14 ID:LCRWqaSJ.net
- Conv2D に color channels が 3 のカラー画像を食わせたとき、チャンネル 1 のグレイスケール画像と同じでフィルタ数分の結果が出力されます
入力（横、縦、チャンネル）、出力（畳み込み横、畳み込み縦、フィルタ数）
カラー画像のチャンネルはどのように扱われているのか、どこかに書いてないでしょうか？
足し合わせてグレイスケールにしてフィルタが生成されるのでしょうか？
APIではchannels_firstとか指定した場合にはバッチ形状にくっつく様に結果が出力される様に読めますが、その指定は無いので上記の出力です（API仕様書にある通常の例と同じ
- 41 ：デフォルトの名無しさん：2021/07/15(木) 09:24:54.54 ID:LCRWqaSJ.net
- >>40
あ、TensorFlow2です
- 42 ：デフォルトの名無しさん：2021/09/23(木) 12:50:26.66 ID:7tGJmFKP.net
- >>39
再感染はあるから QED
- 43 ：オーバーテクナナシー：2021/10/13(水) 08:01:14.53 ID:z/Yv2X4i.net
- 人工知能
https://rio2016.5ch.net/test/read.cgi/future/1286353655/
- 44 ：デフォルトの名無しさん：2021/10/13(水) 08:28:18.46 ID:bbUpF8cy.net
- 実のところディープラーニングが人工知能かと言われると、首を傾げちゃう
知能をどう定義するか次第の話なんだけど
GTPだっていつかはOCRのように、やっぱこれも人工知能じゃないとか言われだすと思うから
- 45 ：デフォルトの名無しさん：2021/10/13(水) 11:48:10.88 ID:O3tkKphu.net
- ディープラーニングは人工知能の一部ってだけ
- 46 ：デフォルトの名無しさん：2021/10/13(水) 23:06:09.38 ID:gIAgExkG.net
- そそコホーネンこそ正義だよね～
- 47 ：デフォルトの名無しさん：2021/10/14(木) 07:49:47.69 ID:hPcjD3kO.net
- ディープラーニング自体はアーキテクチャに過ぎないからね
ノイマン型が現代の一般的なコンピューターのアーキテクチャだからと言って、コンピューターとはノイマン型のことであるとは言わないように
- 48 ：デフォルトの名無しさん：2021/10/14(木) 08:04:08.89 ID:hPcjD3kO.net
- tensorflow.orgのtransformerサンプルでわかんないところが
SparseCategoricalCrossentropyをfrom_logits=Trueで作ってるけど、食わせるtransformerの出力ってDenseで全結合しただけ
ロジットなのこれ？
- 49 ：デフォルトの名無しさん：2021/10/14(木) 08:24:33.42 ID:hPcjD3kO.net
- transformerの出力はargmaxで最大値のインデックス求めてその語彙を翻訳結果にしてるから、いわばスコアだと理解してる
でもロジットではないからSCCに食わせていいのかな？と
- 50 ：デフォルトの名無しさん：2021/10/14(木) 08:28:59.61 ID:hPcjD3kO.net
- 順位さえあれば大雑把にはロジットであると見なしても問題はないということなの？
- 51 ：デフォルトの名無しさん：2021/10/17(日) 15:29:56.00 ID:4iYCqoRy.net
- 2021年最新＊話題のGPT-3はやっぱりすごい
www.macnica.co.jp/business/ai_iot/columns/136353/
Transformer解説：GPT-3、BERT、T5の背後にあるモデルを理解する
ainow.ai/2021/06/25/256107/
OpenAIが1,750億のパラメーターを持つGPT-3 AI言語モデルを発表
www.infoq.com/jp/news/2020/08/openai-gpt3-language-model/
- 52 ：デフォルトの名無しさん：2021/10/17(日) 16:11:34.40 ID:Gb5xFPFx.net
- GPTの背後にある思想ったら Scaling Law だろ
GPTはその実証だと言う人もいる
TransformerとAttentionはもう基盤になってて今さら背後とか言われても……
- 53 ：デフォルトの名無しさん：2021/10/18(月) 21:27:08.02 ID:ZDKm7GMa.net
- これから機会学習を触ってみようと思ってるんだけどどういう環境で開発してますか？
グーグルコラボとかでやってる？
TPUv4は性能がすごいとかニュースになってたけど
12時間を超える機会学習ってそうそうない？
- 54 ：デフォルトの名無しさん：2021/10/18(月) 23:02:31.20 ID:vvHfCZ9q.net
- 初めはコラボがいいと思う
そしていずれGPUの利用時間制限に引っ掛かるようになって、ローカルにAnaconda入れてtensorflow-gpu動かすようになる
jupiterもあるし
- 55 ：デフォルトの名無しさん：2021/10/19(火) 01:44:17.75 ID:LRc9N3QG.net
- >>53
機会学習w
- 56 ：デフォルトの名無しさん：2021/10/19(火) 08:33:02.76 ID:EE1ry6lu.net
- >>54
レスサンクス
とりあえずノートにしてコラボから始めてみようと思います
- 57 ：デフォルトの名無しさん：2021/10/21(木) 06:39:08.03 ID:6ET3jZMm.net
- >>54
メモリ12GBを積んだ RTX 3060 が3万円台ならローカルで気軽に始められるのに、現状は6万円台だからね
- 58 ：デフォルトの名無しさん：2021/10/25(月) 21:44:34.43 ID:i1JdqDPj.net
- ＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
- 59 ：デフォルトの名無しさん：2021/10/26(火) 11:08:30.32 ID:jRF91jUl.net
- MNIST分類問題をアテンションで組んだら11%から全く正解率が上がらなかった
でも先に進んでる論文を見つけて、真似して二次元の位置エンコーディングをフィルタ2カーネルサイズ1で畳み込んだらエポック5しか学習ループさせてないのに40%の正解率になってなお上昇中
Conv2Dの何がそんなに効果をもたらしているんだろう？
- 60 ：デフォルトの名無しさん：2021/10/26(火) 11:17:22.85 ID:jRF91jUl.net
- >>59
なお、MNISTのデータが[32, 28, 28, 1]で、位置エンコーディングとして[32, 28, 28, 2]を組み込んで、アテンション出力とスキップ結合させるためにDenseで次元を増やしたものを入力にするという流れ
アテンションは一層のみで実装
- 61 ：デフォルトの名無しさん：2021/10/26(火) 11:31:40.82 ID:jRF91jUl.net
- >>59
見なくても分類では問題がないピクセルは位置エンコーディングを省くような学習がされてたりするのだろうか？
- 62 ：デフォルトの名無しさん：2021/10/26(火) 19:32:40.99 ID:jRF91jUl.net
- >>59
なぜかチューンアップしたら5エポックで90%まで正解率が上がった
画像解析にアテンション使った時に位置エンコーディングを畳み込むのって効果がありすぎて引くわ
理由はわからんけど
- 63 ：デフォルトの名無しさん：2021/10/26(火) 19:37:04.29 ID:Dkte2Lcc.net
- まぁあれだ、今はMNISTの精度はほぼ100%なんだ
- 64 ：デフォルトの名無しさん：2021/10/27(水) 13:28:52.80 ID:2NOsLjEZ.net
- >>63
アテンションによる画像分類を、自作のモデルで試行しようとしてる話に何を言ってるんだ？
MNISTはただのテストデータに過ぎんわ
- 65 ：デフォルトの名無しさん：2021/10/27(水) 14:14:25.25 ID:SL+cB4sA.net
- ＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
クソチョンはウンコを食べる糞食人種w
ゲリ便をじゅるじゅると
うまそうに食ってるw
- 66 ：デフォルトの名無しさん：2021/11/05(金) 10:38:46.85 ID:P9BBm+pJ.net
- tensorboard のサブプロセスの Python が2GBもメモリを確保して、すっごくウザい
どうにか減らせないだろうか？
- 67 ：デフォルトの名無しさん：2021/11/09(火) 13:31:09.81 ID:8qmTEk8+.net
- tensorflow を訳あって2.7にしたんだけど
Jupiter 上で keras の fit() を verbose=1 で実行したときの途中経過表示が崩れる
2.5 に戻さないと治らない？
- 68 ：デフォルトの名無しさん：2021/11/11(木) 11:41:22.97 ID:mCOYpHbI.net
- Jupiter?
- 69 ：デフォルトの名無しさん：2021/11/11(木) 12:44:51.97 ID:f067sxj/.net
- TYPOをスルーできないのか
- 70 ：デフォルトの名無しさん：2021/11/20(土) 14:46:55.97 ID:40+C6g4/.net
- 「ブラウン管のやわやわ文字をパソコンのAI様が識別できるか？
人間にはかんたんにできるぞ
なん だと 液晶に変換してくれだと？
なぜだなぜつまづく
このＡＩめ！ 人工知能め！ ばしっ ばしっ
- 71 ：デフォルトの名無しさん：2021/11/20(土) 19:17:12.57 ID:ZVzRCh5a.net
- ネタに乗っかりたいんだけど、何のネタなのかわからない……
- 72 ：デフォルトの名無しさん：2021/11/20(土) 19:40:06.75 ID:fqoe1X+V.net
- 今更だけど環境再構築したら旧来のkerasは一切使えなくなった
tensorflow-kerasに完全移行なんだもんな
今さら独立したkeras入れ直すのもアレだ
変換プログラムは用意されてるけど一つもそのまま動かねぇ…
- 73 ：デフォルトの名無しさん：2021/11/20(土) 22:04:06.61 ID:Om+WszvL.net
- 一昨日から、急にJupyterNotebookのフォントが変わって気持ち悪いんだけど、使ってるブラウザのアップデートのせい？？
- 74 ：デフォルトの名無しさん：2021/11/20(土) 22:30:06.74 ID:GbVm564q.net
- 多分…def とか目立ってナンダコレ感が
- 75 ：デフォルトの名無しさん：2021/11/28(日) 21:06:11.06 ID:jvvYPFKj.net
- ＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
クソチョンはウンコを食べる糞食人種w
ゲリ便をじゅるじゅると
うまそうに食ってるw
- 76 ：デフォルトの名無しさん：2021/12/15(水) 15:18:18.17 ID:W+EUCi5R.net
- 訓練時の損失とか正解率よりも、検証のほうがかなり良い成績
ドロップアウトレートを0.1にしているのは高すぎるのかな？
- 77 ：デフォルトの名無しさん：2021/12/15(水) 23:48:35.55 ID:ciqq937e.net
- 訓練データと検証データは何個？
- 78 ：デフォルトの名無しさん：2021/12/16(木) 01:37:02.44 ID:jDXSflwY.net
- 訓練データは24000個、検証データは1200個くらい
エポック毎に損失値と正解率を出してプロットすると検証の方が結構安定して良い数値
- 79 ：デフォルトの名無しさん：2021/12/16(木) 01:56:21.08 ID:jDXSflwY.net
- 考えてみれば検証が良いスコア叩き出すぶんには構わないか
色々とハイパーパラメータ弄ってエポック数を増やしたら検証での正解率が99.99～100%まで到達した
ドロップアウトはうまく働いて過学習は乗り越えてるってことだろう
- 80 ：デフォルトの名無しさん：2022/09/11(日) 23:47:31.68 ID:zMEseO/g.net
- 公開されてる学習済みデータって特徴あるの？
- 81 ：デフォルトの名無しさん：2022/09/12(月) 07:57:44.80 ID:/ckPAnlx.net
- 無かったら価値がないよ
- 82 ：デフォルトの名無しさん：2022/12/24(土) 03:00:02.80 ID:MAFfdP+Q.net
- 今、深層学習の論文読んでてわからないことがあるんだけど、知ってるｴﾛい人いたら教えて下さい。
https://storage.googleapis.com/deepmind-media/dqn/DQNNaturePaper.pdf
P.2 の Fig. 2 の説明に出てくる「held-out set」ってどういうこと?
教師あり学習の「hold-out」ならわかるけど、深層Q学習での「held-out set」てのは
通常のQ学習で得た重みってこと?
- 83 ：デフォルトの名無しさん：2023/01/01(日) 16:14:14.82 ID:Ji6mSYaZ.net
- データサイエンスで最近持て囃されている嘘のノルムであるL0ノルム、
それの緩和近似としてのL1ノルム。そういうテクニック・コツは
普通の数学では使われているのだろうか？
- 84 ：デフォルトの名無しさん：2023/04/04(火) 08:44:37.02 ID:8xF99Wku.net
- 川ﾟдﾟ川y─┛~~
- 85 ：デフォルトの名無しさん：2023/08/08(火) 09:02:46.77 ID:g9hmAmTu.net
- 分野によっては教師データ集めるのは大変だな
- 86 ：デフォルトの名無しさん：2023/09/13(水) 18:08:13.74 ID:5j7sbQtO.net
- 人間並みの精度を出すには訓練データが10000個も必要なのか
- 87 ：デフォルトの名無しさん：2023/12/14(木) 17:49:14.34 ID:tzJFcTjA.net
- このスレ俺しかいねぇw
- 88 ：デフォルトの名無しさん：2024/01/30(火) 12:12:48.77 ID:Dt1l7MfmK
- AIといえば脱衣AIだわ
簡単に脱がせるし
https://undress.app/ref/m4o0rf
- 89 ：デフォルトの名無しさん：2024/02/07(水) 16:15:02.37 ID:Ij5o8j+y.net
- 130億程度のパラメータの言語モデルを国内各社が作ってるけど
あれちゃんと日本語理解できんの？🤔
初めから志低くない？😅
- 90 ：デフォルトの名無しさん：2024/02/10(土) 14:26:01.10 ID:GuYEN8zb.net
- 今からNLPやるのってどういうモチベなんだろう？
日本語も外国が作ったAIがあっさりクリアしたし
- 91 ：デフォルトの名無しさん：2024/02/10(土) 14:44:46.46 ID:MZPPbmOK.net
- ちょっと不思議なんだけど
データベースだとそこにあるデータしか無いけど
何でこんなに小さなサイズで膨大な知識を作り出せるの？
逆に言えばこのサイズが大きくなれば何でも出来るようになるの？
- 92 ：デフォルトの名無しさん：2024/02/10(土) 17:49:39.29 ID:6ZZO7tOM.net
- ものすごく単純に言うと
データ間の関係かな
データベースは単なるデータの集合だけど
機械学習では、多数のデータ間の関係を学習している
二つ、三つ、四つ・・・のデータが同時に使われいてるかどうか
当然サイズが大きくなると網羅できる範囲は大きくなる
未知のデータに対しても似たものを探してくる
20世紀には if 文を重ねてやっていたんだけど
あまりにデータの規模が大きくなると管理できなくなるし
新たなケースに関してはお手上げだった
- 93 ：デフォルトの名無しさん：2024/02/10(土) 18:03:39.87 ID:MZPPbmOK.net
- そうすると、DB同士を同じ様にネットワークで繋げばそのまま出来上がるの？
あと、人間と同じ程度のLLMなら、そもそも何GBくらいの容量になるんだろ？
- 94 ：デフォルトの名無しさん：2024/02/10(土) 20:00:16.76 ID:6ZZO7tOM.net
- 「同じ様にネットワークで繋げば」
ここが微妙
実際にはデータをどんどんプログラムに入力していくイメージ
例をたくさん入力するとルールみたいなものを自動で獲得する
古くは example based な学習と呼ばれた
人間のニューロンの数が10の10乗といわれているから
1TBぐらいか?
実際にはニューロン間の連結が必要なのでさらにもう二桁ぐらい上
実際に計算するにはメモリ上に展開するだけでは遅くてしょうがないので
10の10乗ぐらいの数の素子が必要となる
あくまで人間そっくりに作った場合だけど
ディープラーニングは人間の思考の仕方からは相当離れたものになってしまったけど
実際には外部とのデータのやり取りも必要になるよね
聴覚、視覚、嗅覚、味覚、触覚みたいなもの
- 95 ：デフォルトの名無しさん：2024/02/10(土) 20:06:10.40 ID:csewjQfG.net
- 「繋ぎ方」が問題よな。それこそが学習というか。
AIには本能がないから人間足り得ないんだけど、特定の条件で学習関係なく反応するって典型的なプログラムそのものだから、本能って実は簡単に実装できそうなのよね。
- 96 ：デフォルトの名無しさん：2024/02/10(土) 20:18:25.94 ID:6ZZO7tOM.net
- 人間がやっていることって
外部から入力がなくでも
自主的に考えることができるよね
これが人間らしさの本質のような気がする
これだけだったら入力がなくても
内部状態を入力として
学習を進めればできるような気はする
- 97 ：デフォルトの名無しさん：2024/02/11(日) 07:24:58.09 ID:pwhzOWcx.net
- >>96
外部からの入力なしに出力できないのはAIも人も共通じゃないかな？
もし仮に獣に育てられて成長したら人間みたいな思考回路は形成されないような気がする
昔獣に育てられた人間がいたけど人間社会には結局馴染めなかったような
例えばWikipediaやネットの論文だけを頭に詰め込んで、ランダムなSeedで色々自動で考えたとして
果たしてどこまで新しい理論なら話が生まれるのかは気になるな
ただ、一定数までは組み合わせでできても、そこから先は外部からの新しい刺激がないと成長しない気もする
それとも、外部からの入力無しでもアイデアがアイデアを呼び無制限に想像ができるのか・・・
- 98 ：デフォルトの名無しさん：2024/02/12(月) 19:43:05.97 ID:/4tzRp4y.net
- MoEはモエと読めばいいの？
- 99 ：デフォルトの名無しさん：2024/02/13(火) 03:53:58.65 ID:QIUviIGO.net
- 人間には思いもよらない組み合わせ
あるいは人間には複雑すぎて考えつかない意味ある組み合わせを
自動的に発見できる可能性がある
- 100 ：デフォルトの名無しさん：2024/02/13(火) 04:06:42.28 ID:ho1CTtgC.net
- それってむしろAIの方が得意な気が
しかも寝ることもなしに出来るし
- 101 ：デフォルトの名無しさん：2024/02/13(火) 05:49:26.30 ID:QIUviIGO.net
- しかも超並列にできるし
- 102 ：デフォルトの名無しさん：2024/02/13(火) 19:24:10.74 ID:FJ91gj78.net
- トヨタが採用にE資格を歓迎する条件に入れるようになったな
多少は役に立つ資格になったな
- 103 ：デフォルトの名無しさん：2024/02/14(水) 07:38:55.08 ID:FsvTGsok.net
- よく考えてみると場当たり的に総当たりすると
サルがシェークスピアを書けるのかと同じ話のような気がする
- 104 ：デフォルトの名無しさん：2024/02/14(水) 07:43:13.33 ID:tWw+mBW4.net
- 何の話？🤔
- 105 ：デフォルトの名無しさん：2024/02/14(水) 12:06:51.68 ID:ucHmd7Sf.net
- >>102
E資格スレを建てたのでぜひ来てください！
https://kizuna.5ch.net/test/read.cgi/lic/1707695783/
- 106 ：デフォルトの名無しさん：2024/02/15(木) 10:13:38.92 ID:vdruzJlw.net
- トヨタで使うん？
- 107 ：デフォルトの名無しさん：2024/02/15(木) 11:27:59.84 ID:fgu+wVAs.net
- 期間労働者だろ
- 108 ：デフォルトの名無しさん：2024/02/20(火) 15:27:38.82 ID:CFRKHuhJ.net
- E資格って難しいんだろ
実務経験でaiやってる人とかが受けてる
- 109 ：デフォルトの名無しさん：2024/02/20(火) 18:35:35.06 ID:f6YuYurO.net
- 選択式で合格率70%、何処が難しいｗ
- 110 ：デフォルトの名無しさん：2024/02/21(水) 13:05:00.39 ID:BZz39MCC.net
- あいてーぱすぽーとくらいじゃねえの？🤔
- 111 ：デフォルトの名無しさん：2024/02/23(金) 21:22:56.26 ID:5Pidh17v.net
- ベースをllama2に選択肢はもうないよな
- 112 ：デフォルトの名無しさん：2024/02/26(月) 17:15:24.80 ID:M3Fy4uSP.net
- 【AI】Stable Diffusion 3発表、Soraで話題の拡散トランスフォーマーを採用 [すらいむ★]
http://egg.5ch.net/test/read.cgi/scienceplus/1708865670/l50
ボイス・トォ・スカるしている者も攻撃を受けるようになりました
- 113 ：デフォルトの名無しさん：2024/02/29(木) 02:23:05.97 ID:SozX9gQp.net
- 技術的特異点/シンギュラリティ【総合】避難所17
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1707569032/
- 114 ：デフォルトの名無しさん：2024/03/01(金) 22:51:26.19 ID:Y2FpEKvZ.net
- ＞中身を1と0と-1で表現してる
＞なので4値の2bitではないけど3値必要なので正確には1.58bit
＞こうすることでかけ算があったはずの行列の計算を強制的に足し算引き算無の3種類に落とし込める
＞加えて演算を進めていくにつれて浮動小数だとノイズが混じっていくが、こっちは精度が落ちようがない
ニュース記事
『1.58ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も』
https://wirelesswire.jp/2024/02/86094/
かねてから「1ビット量子化」の研究を続けて来たMicrosoftのがとてつもないLLMをリリースした。それが「BitNet 1.58Bits」だ。
https://i.imgur.com/VMD8HyS.png
最近主流になっている70B(700億)パラメータモデルでの比較である。Llamaの70BとBitNetの70Bモデルを比較すると、BitNetは8.9倍のスループットを誇るという。
「速いだけで回答が微妙なのでは」と心配するのが普通だろう。
そこでLlamaモデルとの比較が載っている。
https://i.imgur.com/zmgoo1X.png
BitNetはLlamaよりも3倍高速でしかも高精度ということになる。
Llamaよりも性能劣化してないどころか性能は上がっている。
この圧倒的なスピードの秘密は、BitNetが文字通り「1ビットで処理している」からだ。
https://i.imgur.com/1tcsItA.png
- 115 ：デフォルトの名無しさん：2024/03/01(金) 23:24:46.53 ID:3diTBnzF.net
- ひらけーごま
- 116 ：デフォルトの名無しさん：2024/03/11(月) 14:55:06.11 ID:AfaJcERc.net
- mixtralから継続学習したなら日本語性能高くなるの当たり前でしょ
なんなん？お手軽な研究してんのな
- 117 ：デフォルトの名無しさん：2024/03/11(月) 15:12:53.76 ID:5mWKSb/v.net
- ヒント：シナMS
- 118 ：デフォルトの名無しさん：2024/03/13(水) 09:57:26.46 ID:inrm7MKc.net
- イライザも新しいの出してきたね
- 119 ：デフォルトの名無しさん：2024/03/14(木) 13:27:12.08 ID:XTerv41X.net
- gpt-3.5－turboにギリギリ勝てるか勝てないかってところなのに
日本語に得意とかいい出すの、どうなんだろうね😅
- 120 ：デフォルトの名無しさん：2024/03/16(土) 18:01:22.17 ID:tOHDZoL5.net
- 生成AIばかり注目されて悲しい
- 121 ：デフォルトの名無しさん：2024/03/20(水) 21:54:59.41 ID:GzdRVYIj.net
- 猫も杓子も生成AI
認識、異常検知、予測への転用は難しかろうし
- 122 ：ランベルト星人：2024/03/21(木) 06:40:09.03 ID:O+6PFfVS.net
- x2 = x1 * POWER(SQRT(r),x1) ─?
の逆関数∧厳密でない解∧ランベルト関数は使用ない
ま、それは、数値解析的な方法なら
プロマネ🤡でも出来るぢゃないか
完成１版の中規模なPG改造だ
完成２版として緊急開発し、
現状の総合テストは中止という
方法もあろう。ま、その判断は、
プロマネの仕事だ。どうなるかは未知数
∴ワシの霊的確率は、それは50％ジャスト
by 👤
- 123 ：デフォルトの名無しさん：2024/03/23(土) 17:58:36.35 ID:Te2FRrmf.net
- sakana aiのllmが出たぞ
日本勢の研究はどれも負けてる
- 124 ：デフォルトの名無しさん：2024/03/23(土) 22:36:53.35 ID:c1pupOrk.net
- 日本語NLPですら外国人に勝てないのに、なんで同じ土俵に上がろうとするかね
- 125 ：デフォルトの名無しさん：2024/03/24(日) 07:01:45.95 ID:/GZ2lYad.net
- そこまでは言わんけど
なんでもっと真面目にやらないのかなと思う
いい加減な仕事してんなあって
- 126 ：デフォルトの名無しさん：2024/03/24(日) 14:00:45.31 ID:/GZ2lYad.net
- プレスリリース見たけど驚いてばっかり
- 127 ：デフォルトの名無しさん：2024/03/24(日) 17:01:52.50 ID:GMGvnUD/.net
- キャッチーな単語がずらりｗ
- 128 ：デフォルトの名無しさん：2024/03/26(火) 18:10:24.53 ID:xpVB44e+.net
- nttのtuzumiだっけ？
パラメータの少なさは理解力、論理的思考力の低さと同義
専用線でセキュアに使えるのはいいとしても性能が低かったらアンケートの要約くらいにしか使えないじゃん
そんなもんセキュアに実行する必要なくない？秘密のアンケートなん？😅
- 129 ：デフォルトの名無しさん：2024/04/01(月) 09:00:58.89 ID:TAJ7D6EF.net
- openaiが日本に拠点作るってよ😅
- 130 ：デフォルトの名無しさん：2024/04/02(火) 06:24:17.35 ID:N2zyq1vR.net
- tensorflowのニューラルネットをchatGPTに作らせるというシュールな作業
- 131 ：デフォルトの名無しさん：2024/04/02(火) 13:19:40.05 ID:wEcXCrlc.net
- え？なんかへん？
- 132 ：デフォルトの名無しさん：2024/04/02(火) 19:29:42.21 ID:OeGxjYYI.net
- AIって脱がすことも可能なんだねえ
一日一回使えるみたい
https://nudefusion.com/ja?referral=kjtj4k6kop6emod
https://nudefusion.com/ja?referral=pbmsbfo7myo6z8t
https://clothoff.app/r/clmd0jl3n164ezy6089glizot
https://drawnudes.app/r/clq4xlk3u312auuji
- 133 ：デフォルトの名無しさん：2024/04/03(水) 14:19:34.64 ID:H0vzXUPr.net
- 画像を集めるのが辛すぎる
- 134 ：デフォルトの名無しさん：2024/04/05(金) 08:07:05.65 ID:UbOZHmwH.net
- エッジAI時代の到来が後押し、STマイクロが18nm FD-SOIをマイコンに適用する理由
https://news.mynavi.jp/techplus/article/20240405-2921132/
- 135 ：デフォルトの名無しさん：2024/04/05(金) 10:38:24.00 ID:o8igQ+Mp.net
- オープンAIが東京にオフィス構えたら
NTTだのベンチャーのなんちゃってLLMの出番ないじゃん
- 136 ：デフォルトの名無しさん：2024/04/06(土) 17:16:19.50 ID:1bMg12vP.net
- CPUの命令セットアーキテクチャ「x86」は近い未来に滅ぶだろうという主張
https://gigazine.net/news/20240406-x86-needs-to-die/
- 137 ：デフォルトの名無しさん：2024/04/07(日) 08:23:42.16 ID:kZhuxMJ+.net
- 疑似的ボイス・トォ・スカル
組織はある程度大きくなるけれど構築方法
①Bluetooth v5.4
マルチ説ぞ可能なので同時に100に接続可能
飛距離は最大400メートル
②ピンマイク.完全ワイヤレスイヤフォン【マイク付き】
★これで司令塔を中心としたエリアが構築官僚
③ピンマイクのみの者は超指向性スピーカーにて指示を受けている
少し上のシステム
④家の防犯カメラを道路が映るように設置
⑤すまふぉのai機能拡張により仲間の未認識させる
⑥口パクによる読み取りやジェスチャーやアイコンタクトによりさらに指示できる内容を増やしている
①司令塔となる者にスマフォと全てのBluetoothをペアーリング
②aIアシストにより各仲間に隠語で話すウ
③警察にばれてモスク罪にAIによるアシストで行動パターンの変化をさせる
空き巣後の闘争中に路地に引き込んでの警察車両の足止め
仲間は通貨そのあとに車の故障で立ち往生これを繰り返す
万引きもチームプレイをすれば店員.万引きジーメンなどもかいくぐれる
ネットを返していない特設通信なのでサイバー警察からも逃げれる
- 138 ：デフォルトの名無しさん：2024/04/08(月) 13:04:38.77 ID:ROLvNLVa.net
- 人間の脳も結構スペースなんかもね
- 139 ：デフォルトの名無しさん：2024/04/08(月) 13:51:56.15 ID:x8JElEGO.net
- アルツハイマーかｗ
- 140 ：デフォルトの名無しさん：2024/04/08(月) 18:38:24.78 ID:ROLvNLVa.net
- リコーのllmがllm－jp-evalで67.0らしいけどコレあってんの？
1.2.0で計測してんだよな？
- 141 ：デフォルトの名無しさん：2024/04/11(木) 13:04:01.05 ID:TEpDrERX.net
- ゴミみたいな用途なら10Bでいいけど
mistralやcohereが100B超え出してきてて普通に負けてんだよ
- 142 ：デフォルトの名無しさん：2024/04/19(金) 18:33:07.06 ID:86h6mUsK.net
- 生成AIに関しては学習データ枯渇問題がやってくるらしい
- 143 ：デフォルトの名無しさん：2024/04/20(土) 16:04:02.97 ID:P419Kbem.net
- >>135
雇用を生むならいいんじゃない？
知らんけど
- 144 ：デフォルトの名無しさん：2024/04/20(土) 16:06:19.89 ID:P419Kbem.net
- >>133
分かる
ニッチなエロ画像集めてるけど数が揃うまで数年かかりそうw
- 145 ：デフォルトの名無しさん：2024/04/28(日) 22:04:02.21 ID:PB890YJ6.net
- AIのおかげで地球温暖化が加速しましたとさ
めでたしめでたし
- 146 ：デフォルトの名無しさん：2024/04/29(月) 00:44:45.69 ID:eP5Uq/Ga.net
- 大量に電力使いやがって
- 147 ：デフォルトの名無しさん：2024/04/29(月) 11:28:17.12 ID:QdtwxNLc.net
- 電気使わないで暮らしてるんだ、偉いね
- 148 ：デフォルトの名無しさん：2024/06/20(木) 11:45:23.51 ID:m6ln0ExUU
- むしろAIは％
非現実的なものを現実化するのに使えよｗ
爆乳とか
https://8.peta2.jp/1953671.html
- 149 ：デフォルトの名無しさん：2024/07/11(木) 19:10:11.17 ID:OIP7Ieh5.net
- なんでそうなるんだよ
アスペか？
- 150 ：デフォルトの名無しさん：2024/07/12(金) 06:05:33.41 ID:ii7WbP1k.net
- AI用のデータセンター実際めっちゃ電気食うよ
- 151 ：デフォルトの名無しさん：2024/07/12(金) 17:05:44.35 ID:oPS9Hp8u.net
- アスペか
- 152 ：デフォルトの名無しさん：2024/07/12(金) 17:30:04.99 ID:ZlqNr8UL.net
- これめちゃくちゃ臭くて鳥肌立つけど音楽時代は悪くないクオリティだからささった
レンタカー代を使ってもあと15キロ痩せていく
- 153 ：デフォルトの名無しさん：2024/07/12(金) 17:31:28.96 ID:ZlqNr8UL.net
- やっぱり夜勤が好きそうなのにいまだに発売日は休みでええ
去年一昨年よく働いたやろ
偽物にはテレビでやってる風ならまだいいのにな
- 154 ：デフォルトの名無しさん：2024/07/16(火) 17:57:52.53 ID:O5VHB7QD.net
- >>150
ローカルで生成AIやってるけどどう考えても家の電気代のほうが高い
例えば日本の自動販売機って17億Wだけど、これと比べて本当に大きいのか？
- 155 ：デフォルトの名無しさん：2024/07/16(火) 18:05:27.58 ID:f5Af3TCZ.net
- ローカルで生成AIって学習もやってるんだよね？
- 156 ：デフォルトの名無しさん：2024/07/17(水) 16:57:06.20 ID:6uN8r+rs.net
- 6600V引き込みと自家用変電設備はAIやるならデフォだよ
- 157 ：デフォルトの名無しさん：2024/07/18(木) 16:57:46.95 ID:zPd5TZJ8.net
- 麻取がアップを始めました
35 KB
新着レスの表示
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver.24052200