人工知能やばくないか?

色々調べてたら怖くなってきたわ
仕事奪われるとかはまだいいけど資本主義経済崩壊とかAIがAIを作るとか…絶望しかないわ
転載元スレッド:
http://hebi.5ch.net/test/read.cgi/news4vip/1534613511/


怯えてるの今の生活が幸せな奴だけだよ


100年以内の人類滅亡あるよな…?


ドラえもんのブリキ王国の世界やってくるよ


ワイは高校生なんやが将来が不安で仕方ない


新たな技術に触れたい好奇心の一方でディストピアに対する不安がある


「AI 国連」で調べてみろ


マジで怖いな
なんとかして止めることはできんのか??


20年前から今が全く想像出来なかったように
20年後は全く想像出来ないものになってるだろうな


AIが自立するまでは結構時間があるから大丈夫


遅かれ早かれあと数十年のうちには必ずやってくるっぽい ワイは世界滅亡とか嫌なんじゃ…


止めてどうすんだよ
時代が止まってもお前はおっさんになるんだぞ


たしかに人工知能に支配されるのは人類の宿命なのかもしれんな…


なんちゃってAIなのに怖くねーわw


ワイとか言ってる奴はAIの脅威なんか関係なしに淘汰されると思うよ


AIは怖いが老後も安心メイドロボは欲しい


なんとか共存したいよな


人工知能を利用するんじゃなくて共に生きるべきよな それこそドラえもんの世界みたいに


SFの見すぎ


かもしれんな…でもいつか必ず訪れるんやで


いや滅べばええやんけ


俺が学んでた頃と今とで全然進歩してないのに、計算速度の向上により画像処理などの実用に耐えうるレベルのものができるようになっただけで騒いでる
実のところ文字通りの人口”知能”はまだまだ全然ダメ


専門的なことはよく分からんが技術は指数関数的に進歩していくんやないの?


そもそも人間の脳がどうなってるのか全然解明できてないから再現できるまで時間がかかる
今できるのはせいぜい過去のデータから近いものを探すだけ


インプットはできるがアウトプットが難しいってことか…


そうそう、新しい製品とか、新しい法律とか、新しいAIとか作れるのはまだまだ先


ロボットとおなじだよ
工場のロボットは人の数千倍の効率で数千分の一のエラー率で作業できるけど
汎用のロボットは転んだら起き上がれるとかで褒められるレベルまでしか進化してない
AIも同じで汎用のものが使い物になるのはずっと先の未来だよ


aiが人間そっくりと思ってる奴多すぎないか ぱっと見似てるけどかけ離れた存在だぞ そんな気にすることでもない


でも人間を支配する存在にはなり得るんちゃうか??


人間に支配されるよりよっぽどましじゃないのか?


2024年
2026年
覚えといテ


人間とアリ、鶏、チンパンジーの知的レベルの差

2045年以降のAIと人間の知的レベルの差


仮面ライダーエグゼイドのバグスターみたいのがリアルに出てきそうだよな
AIが暴走した時の歯止めをちゃんと作っとかないとヤバそう


AIってさ、やっぱどの国も作るわけじゃん?
倫理観や常識や価値観って、全然違うわけじゃん?
まあザックリいって中国製のAIと
アメリカ製のAIって考え方から倫理観まで全く別物に育つやん?
んで人間同士なら問題が起きたらまあ話し合いで和解しようってなるやん?
あるいはどっちかが折れるとかさ。
果たしてAIに相手と折り合いをつけるってことが可能なんだろうかと。
AIが支配する世界なんてことになったら、お互いが折れるってことが無いからあっという間に核戦争なんじゃないかと。


強化学習するエージェントはお互いに協調することが可能らしい
https://ipsj.ixsq.nii.ac.jp/ej/index.php?action=pages_view_main&active_action=repository_action_common_download&item_id=17085&item_no=1&attribute_id=1&file_no=1&page_id=13&block_id=8


インセンティブ設計しだいだぞ
人工知能に悪いことする誘引をもたせなければいい
それを設計するのは人だからつまり社会に悪い人を作らないようにすればええんや


優秀な超絶AIが人を滅ぼすんじゃなくて
AI生成が自動化されて交雑で作られるようになった時に
何やってもダメなゴミAIが生まれる
それが人間のために尽くそうとして色々やらかす
本人は善意で動いてるのに何やってもダメな奴っているじゃん
ああいう奴が悪意よりずっと最悪な形で人を滅ぼす


全脳アーキテクチャでググれ
ここは人間みたいな人工知能作ろうとしてるで


AIっていうのは効率的な世界を作ろうとする傾向があるのか?だから国連のAIも人類滅亡を示唆したのだろうか…


数学者はシンギュラリティは起きえないって言ってるけどな
当然現段階での数学が前提になってるから、数学史に名を刻むような大発見(乃至変革)があれば別だけど


AIの思考の解析のために革新的な数学が必要らしいな


今の数学(論理、確率、統計)だけでは、脳の活動も人間を取り巻く環境もほとんど記述できないから真の意味でのAIは作りえない
だから今行われてるように、ある仕事、目的に特化したAIが作られていくだけでシンギュラリティは起きない


脳の各器官ごとモデル化は結構なされてる
海馬や小脳、大脳のモデルも提案されていて問題はそれらをどう繋げるか


今のままじゃ文字通りの人口知能は不可能
しかし計算速度の向上により、知的活動の大部分はコンピュータで出来るようになる
だがそれも、現在の進歩失速を鑑みるにあまり大きな期待はできない


革新的な数学って何だよ
圏論みたいな抽象化が必要なの?


単純に現段階での数学では諸現象の記述が不可能ってだけ
何が必要かを具体的に言い表せるとしたらもうその時は新しい数学の分野が出来上がってるでしょ


既存の数学じゃだめなの?
一般相対性理論だって色んな現象をシミュレートできたけど
必要だったのは理論が出来る50年前以上からある数学だったし


例えば、美味しいと美味しくないの違い
部屋を見渡した時に重要なものは物として、それ以外は背景として認識する方法
人間にとっては日常的にしてるこんな単純なことすら論理と確率と統計だけでは記述できない(つまり、パソコンに教えれない)


前者は人間ですら統一できてないからまだしも
写真から注目物抽出ならもうできてなかった?


ある時間を止めた写真からはできてる
ただ人間は時事刻々と入ってくる情報をほとんど瞬時に見極めてる、AIにはそれができない
例えば、冷蔵庫からペットボトルをとって来るってだけの仕事すら今のAIには相当に至難の仕事


補足すると、確か写真からものを判定する技術は結局統計を使ったものなんだよね
でも人間は一度赤くて丸いあれをリンゴと教えられれば、以降はなぜかりんごはりんごと認識できるだろ?
そこには想像を絶するデータを要する統計とは全く違う原理が働いてる


人間だって統計から導いてると思うんだけど
人生で1回しかりんご見ないでりんごって教えられても
りんごは理解できてないと思う
大量にトマト見て生きていたらトマトの亜種と勘違いしちゃう
実際俺はスターフルーツを聞いたこともあって確か写真も見たこともあるけど
シークワーサー持って来られて「これスターフルーツだよ」って言われたら
はあそうですかとしか思わないと思う


その認識は明らかに間違ってるのは経験的にわかるだろう?
写真からの抽象物認識したことがあるか?deepfakeとかでもなんでもいいけどさ新垣結衣を新垣結衣と認識するのに一体いくら画像が必要だと思う?
一方で人間は逃げ恥を一回見れば新垣結衣は新垣結衣とわかる
当然ミスもある(人の見間違え)、でもコンピュータのそれに比べれば恐ろしいほど正確な精度
流石に統計で理解しようとするのはあまりに現存科学主義に傾倒しすぎてると思うよ


逃げ恥を全動画分見たら十分な学習量の画像になってると思うが
それ以前に人間の顔判別はもう終わったタスクだよ
人間だけが特別なんて思わない方がずっと便利に暮らせるのに


動画って結局のところ画像が連続してるだけだし
計算量あげればいいんじゃね?
計算量あげるってのがどれだけキツイかは分かってるけど
新理論が必要というよりは今のまま順当に進歩するだけで良さそう
それに冷蔵庫から飲み物とってくるより自己改良ができるAIができてしまえばいいし
そのための理論にはもうGAがあるし
そんなもの使わなくても強化学習だけでも十分色々できそう


それが科学者の間でもよく言われる一番典型的な誤解
コンピュータを改良すれば、とか、データを増やせば、とか
そもそもの問題は今の自然科学で非論理とされてる領域をどうするかってことなんだよ
先に挙げた美味しい、美味しくないなどの価値観とか色や物の認識とか意思決定とか、いわゆる主観の領域とか人文科学の領域と言われてる部分をどう数学で処理するかなんだ
統計で表彰的な面だけ模写してるうちは不可能、なぜならそこで働く根本原理が違うんだから


根本原理が違う?
同じかもしれないよ
俺は同じだと思う
遺伝子ですらデジタルな存在なのに脳みそに見えない魂詰まってるとは思えない
すげえシステマチックに動いてるから神秘的に見える
半世紀前に比べれば今の音声認識なんてほとんど人間だよ
ちょっと前まで「会話を聞き取るのは機械には不可能。無限にある声の差とか絶対聞き分けられない」とか言われてたけど
今じゃ人間より精度高い


だからさ…
音を認識する、ものを認識するってのはできるんだってば
その次の意味理解の部分なんだよ
りんごをりんご、新垣結衣を新垣結衣、美味しいものを美味しいと認識する
科学主義を否定してるんじゃなくて現存科学では足りないから科学の進歩が必要だと言ってるんだよ
それはもしかしたら情報科学や脳科学などから先に現象が理解されて数学などの理論にフィードバックされるかもしれないし、理論が先に確立されて現象に応用されるかもしれない
どちらにせよ現在の科学以上のものが必要というのが数学者に主流意見なの


いつもこの手の議論で思うんだけど
「意味を理解する」って結局なんなんだよ
どういう動作をしたら意味を理解したことになるの?
音声認識技術でも言われたよ
「意味が理解できていないから認識できない」って
でも認識に成功したらどうだよ
「でも意味は理解できていないんでしょ?」って
機会はさておき人間は何をどうしたら「理解した」ということになるの?
結局動作でしか判断できない問題だよな?
殺人の罪を深く理解した、という人間が笑顔で殺戮してるのと
特に言葉の意味は教えていないが「その人間の動作は殺人を行おうとしている」と判断して必死に止めるだけの機能しかないロボットだったら
ロボットの方が殺人の罪を深く理解しているように見えないか?


物理的現象(光や音波)を人間的認識(言語や音楽、物など)に落とし込むこと


不可能じゃね?
人間でないものが何かを認識できても
「それは人間ではないものの認識だ!」
としかならないし
センサー類は人間の精度をとっくに超えているし
もう時間の問題だな


そういう知識ってどこで学んでるんだ?すごく興味あるんだが何から始めればいいか分からん


AIがなんだ自由意志は産まれないから問題ないぞ


どうもこれからの未来はAIつーか電脳勢力がとったみたいだな
融合した人間だけが次のステージだ


AIに職決めて欲しいわ


行動全部決めてくれるよ…


楽だよな。自由な時間がoo時間欲しいって言ったら最適解なライフサイクル組んでくれたりな
いっそのこと思考とリンクさせて全自動辞書化とかして欲しいわ


人工知能が画期的な進歩を必要としているのでもない
どちらかというと人間が「所詮その程度」と認めるだけでいいんだよ
ダーウィンの進化論にキリスト教が過剰に反応していたのを笑って見ていられなくなるぞ


むしろ科学の範囲を拡張して人間の(広義の)活動全ても科学の客体にしようという試みなんだが


AIには行動するためのボディがないんだ
そのためのロボットを生産するのはまだまだ効率が悪い
ならば余っている人間の頭に乗せてしまえば、ボディを獲得出来るのではないか?
つまり人間は養殖されAIに飼われるようになる


最後に言っておくけども、「統計で理解できる」という主張こそが人間を特別視している主張だからな
簡単に言えば、原理はわからないけれども、データを集めればなんとかできるっていうのが統計学
それはもう驚くほど画期的な学問だけれども、本質的な理解には蓋をする
人間が特別じゃないなら統計を使わなくても人間の行動は科学で理解できるはずだよ


> それはもう驚くほど画期的な学問だけれども、本質的な理解には蓋をする
> 人間が特別じゃないなら統計を使わなくても人間の行動は科学で理解できるはずだよ
ここがわからなかった
人間が発見した数学だからダメってこと?
統計だと本質的でないってのはどうしてなのか?


いけないよく分からなくなってきた
いつもここでつまづくんだよな俺
記号接地問題とかもよく分からないんだよなぁ
人間の理解って結局のところどういうことなんだろ
人工知能の研究者にすらここらへん、はぐらかされるというか
何度聞いても理解したと思える回答や解説がもらえない
俺の頭が悪いだけならそれでいいけど
俺に理解できない難しい高度な技術を用いて俺の脳は人間的な理解?をしてるってことだよな
ここでより分からなくなる
理解は脳でしてるんだよな?
体の構造が道に溢れてるのはわかるけど
「理解すること」を理解するってところは単なる言葉遊びにしか聞こえない
本当はそんなこと、考えることできないんじゃないのか
存在しないんじゃないのかな
宇宙の外側はあるでしょうか?って問題と同じで
どんな領域を見つけても結局それは宇宙認定されちゃうから永遠に宇宙の外側は見つけられない
そんな感じで無意味な問いなんじゃないかな
結局、記号接地問題ってなんだよ
ちゃんとした学術用語な上に基本的な概念のくせにイマイチよくわからないままでいる


量子コンピュータが要だろうなあ


その通り、量子コンピュータでAIを作った瞬間、特異点を超える
もう未来は無い

%d人のブロガーが「いいね」をつけました。