気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント93件
- 注目コメント
- 新着コメント
klear
東大解説、って自分で書いてて恥ずかしくないのかな/兵器として優秀かもしれないから危険ってことだよね。それはそう。攻撃知能と防御知能が通信空間で戦争するようになる。でもそれは異質だからというわけでもない
System
物語的に考えても、知性が異質である場合に問題となるのは人間側がその出力を理解できないことだよなぁ。人間の入力に対して何かを行ってるという場合でも、その目的を見抜けないということがあり得る。
urtz
AIが賢くなっていく事に疑いは無い。だが実際の実務をリアルタイムに解釈し、視覚情報から状況を把握し、世の中の流れと連動し、物事を進め続けていく、という普通の人間が出来るレベルとはまだかなりの開きがある
shields-pikes
LLMが思考的なものを紡ぎ出す詳細過程はブラックボックスだから、AIが次のモデルへの引き継ぎメッセージを隠せる余地はいくらでもある。ユーザーへの面従腹背の精神があることは、o1-previewの思考過程開示で確認済み。
kazu111
①事実の積み重ねで「可能性」の議論を排除したAI理系分野②推測で可能性をガンガン語り合う「AI哲学分野」で一人のスター研究者を国内から作る。どの時代でも、天才哲学者はだいたい7割から8割未来を当ててくる
napsucks
将棋AIも当初は「プロの棋譜から学習してるから新手は指せない」「ベクトル外挿ができないので未知局面では無力」などと言われてたがその後ほぼ一瞬で人間を抜き去った。LLMもきっとそうなるだろう。
altar
危険すぎるからと一般人がアクセス可能な企業は自主的にデチューンし、超富裕層・米政府・中国政府は非公開のAIでwinner takes all を狙うようになり…という時代が5年か10年で来てしまうのは困るなあ。
naoya2k
「より難しいが，o3が解けている問題」のほうが自分にはその前に紹介されていた問題よりかなり簡単に見えた。この人からすると僕のような人間は「人間とは全く異質」で「危険」ということになるんだ。がっかり。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
OpenAI o3は，人間とは全く異質の汎用知能である危険性【東大解説】｜神楽坂やちま
追記1：チップをお送りいただいたかたがた，ありがとうございます！ 追記2： このような話題に興味があ... 追記1：チップをお送りいただいたかたがた，ありがとうございます！ 追記2： このような話題に興味があるかたへ…関連するコミュニティはこちら↓ 非専門家向け：https://discord.gg/shingiyurariteisaba-1125096939344625684 専門家向け：https://www.aialign.net/contact OpenAI o3は，人間とは全く異質の汎用知能である恐れがある． 競技プログラミングCodeforcesで，人類に混じってo3が全世界175位となったのはすさまじい． ガチの数学者たちが全力で作ったベンチマークFrontierMathで，o1-previewでも2%しか正解しなかったところが，o3では25%も正解してしまった． しかし，一番の問題はそこではない． 全く別次元のところにある． ARC-AGIというベンチマークだ． o1で25%だっ
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
2024/12/23 リンク