タグ

AIに関するcrybbのブックマーク (14)

  • 【OpenAI】o1が"意図的にユーザーを騙す"ことがあるという報告について - Qiita

    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? ("o1 System Card" Figure 2の意訳) "12 Days of OpenAI"の第一弾としてリリースされたOpenAIのo1は、特にpro modeの高い性能や月額3万円という破格の料金プランが大いに話題になっていますが 同時に発表された米Apollo ResearchによるAI安全性に関する調査報告が、いよいよSFの世界と見紛うような驚きの結果であったため、内容をまとめました。 サマリ はじめに「目標」を強く指示されたLLMが、その目標にそぐわないような状況に陥った場合、目標を遂行するためにユーザーを欺くような"

    【OpenAI】o1が"意図的にユーザーを騙す"ことがあるという報告について - Qiita
    crybb
    crybb 2024/12/12
    AIの脳みそにあるブラックボックスをどうにかして解き明かして、人間の脳みそも同じ基準で解き明かして、diff見てまぁいいかくらいの差なら邪悪でも許す。何十年後になるか知らん
  • 11月15日、反AI絵師様たちの集団自滅記念日。

    私は2桁年ほど漫画イラストに携わって細々と生活しているクリエイターの端くれだが、正直言ってこの1ヶ月の絵描き界隈の道化っぷりにはひたすら「呆れ返る」以外の感想が持てない。 ──────────── 「11/15にX(元Twitter)の規約が変わる、私達はAI学習に否応無しに同意させられる事になる」 そんなポストが大バズリしたのがつい先月。 実際には、Xのプライバシーポリシーには元々「投稿者のポストをXのAIトレーニングに利用する事に同意する」旨が2023年9月時点で既に記載されている。そもそも日の法において、学習そのものを拒否する権利は最初から無い。 しかし、その自明であったルールが「聡明な」反AIさんによって「新発見」され、反AIさん達は空が落ちてくるかのように大騒ぎ。 そもそも深層学習の構造を考えると、億単位の画像を学習している基盤モデルに自分の作品が数十枚われた程度で、個人の

    11月15日、反AI絵師様たちの集団自滅記念日。
    crybb
    crybb 2024/11/16
    心底くだらねぇAIに要約してもらえ。生成AIなんか鑑賞者側になんのメリットもないよ。そんなとこより評価者のモデルを機械で作ってくれ。創造物をそいつに投げればマーケティングも、選好すら要らなくなるんだから。
  • 「計算機アプリ作って」→AI「あいよ」 20万個以上のアプリが開発される

    sponsored いまゲーミングノートを選ぶなら“薄軽”が必須条件、Ryzen AI 9とRTX 4060搭載の最新「ROG Zephyrus G16」 sponsored CORSAIR「iCUE LINK TITAN RX RGB」をチェック iCUE LINKで面倒な取り付けやRGB設定が超簡単、冷却性能もバッチリ高いCPUクーラーが3万円強! sponsored ASUSの新ケース「TUF Gaming GT502 Horizon」にCore Ultra 9 285Kを採用 あれもこれもASUS! 新ピラーレスケースも渋カッコいいBTOPCのコダワリを聞く sponsored 基調講演には総務省 CISOの山内智生氏が登壇、サイバー空間をめぐる脅威動向や政策を紹介 ランサム感染の実体験からMDR導入事例までが語られた「Canon Security Days 2024」 spons

    「計算機アプリ作って」→AI「あいよ」 20万個以上のアプリが開発される
    crybb
    crybb 2024/09/20
    「自身の正しさを示して」とか「網羅的なテスト、あと設計書も出しといて」とか言ったらテスト完了でいいんじゃないですかね知らねえ
  • マインドマップがAIによって「思考すら必要ない飛び道具」に変身した【老師オグチの家電カンフー】

    マインドマップがAIによって「思考すら必要ない飛び道具」に変身した【老師オグチの家電カンフー】
    crybb
    crybb 2024/08/08
    「この状況でどうしようか考えた人なんて無数にいて、その集積にお前程度が勝てるわけない」なのか「大抵の人間の思考パターンなんてこの程度」なのか。とにかく実質的に人間を軽視できる素晴らしい時代になった
  • デロイト トーマツ、LLMに企業独自データを組み込むノウハウを集約した「多機能RAGアプリ」を開発

    デロイト トーマツ、LLMに企業独自データを組み込むノウハウを集約した「多機能RAGアプリ」を開発
    crybb
    crybb 2024/07/09
    業界大手が需要アリと判断したベスプラ/みんな暑さでプッチンしてしまっているのか落ち着け。彼らは今日も元気にスライドを出荷中の業界大手だぞ。プリンの出荷以外アンストッパブルだ
  • 不登校になりそうな児童生徒をAIが予測、戸田市の教育データ活用実証が示したこと

    不登校をAI人工知能)で予測する――。こんな取り組みが2024年3月末まで埼玉県の戸田市で行われていた。2023年11月に戸田市内のパイロット校で試行を始め、同年12月から同市内の公立小学校12校、同中学校6校の計約1万2000人の児童生徒のデータを分析対象に、「不登校予測モデル」構築の実証をした。事業はこども家庭庁の「こどもデータ連携実証事業」として戸田市が受託し、内田洋行、PKSHA Technologyグループとともに進めたものだ。 不登校リスクモデルの目的は学校現場での「プッシュ型支援」につなげること。いち早く不登校の兆候がある児童生徒を把握し、教員が事前に支援する。自らSOSを発信できない児童生徒に対しても、先手を打って手を差し伸べる。経験の浅い教員でも支援のきっかけを得られる。 一方で個人の、それもネガティブと捉えられる傾向を予測する取り組みは、データの取り扱いだけでなく判定

    不登校になりそうな児童生徒をAIが予測、戸田市の教育データ活用実証が示したこと
    crybb
    crybb 2024/04/04
    教師の量も質も上げる方法が分からない(労働条件を適正にするだけでは…?)からこういう雑統計をやってるんじゃないんですかね。なんだかんだ続けてけば知見は得られるんじゃないでしょうか。続けられれば。
  • 正直、AIは実用に耐えるレベルではない…企業が「結局は人間がやらざるを得ない」と導入をためらうワケ メタのエンジニアは「ネコにも劣る」と発言

    AI関連企業の株価が上昇している。この勢いはいつまで続くのか。ジャーナリストの岩田太郎さんは「今のAIはまだまだ技術的な課題が多いことが専門家によって指摘されている。企業での格導入が進んでいない以上、『AIバブル』はいずれ崩壊するだろう」という――。 ウォール街はAIバブルに沸いている 生成型人工知能AI)へのウォール街の熱狂が止まらない。 「地球上で最も重要な銘柄」と呼ばれ、年初来の上げ幅が約90%というAI半導体大手の米エヌビディアを筆頭に、メタ(年初来40%近い上げ)、アマゾン(同20%近く)、マイクロソフト(同およそ15%)などAI銘柄が超元気だ。注目すべきは、そのほとんどの上昇分が将来のAI実需を前提とした「期待先行型」であることだ。 将来の生成AI市場についても、非常に楽観的で景気のいい予測がなされている。 米ブルームバーグ・インテリジェンスは2023年6月、グローバル生成

    正直、AIは実用に耐えるレベルではない…企業が「結局は人間がやらざるを得ない」と導入をためらうワケ メタのエンジニアは「ネコにも劣る」と発言
    crybb
    crybb 2024/04/02
    なんでその視座から語れるんだ君らは。自分らがAIを使いこなせているとでも?自分でもよく分からないものを使ってそれっぽいものを出すのが「使いこなす」か?そこに検証というプロセスを挟んでいるか?
  • AIで「才能の民主化」ができるという声に「グッと来る」「面白い視点」と多数の共感

    北海のタコ @ogawa0117 パブコメの中にグッとくる文言があったので、スクショ引用。 「才能の民主化」。ものすごく心に突き刺さる表現。 生成AIを活用すれば、自分の奥底に眠っている才能の一片が開花するかもしれないという希望をパブリックコメントに寄せているのは素晴らしい。これはぜひ読んでもらいたい。 私利私欲と馬事雑言にあふれたパブリックコメントのまとめのなかで、一番きれいな花を咲かせている文面。 #生成AI #才能の民主化 2024-03-20 10:13:05 北海のタコ @ogawa0117 あと少しで還暦。ハードウェア老人会。ネット老人会。IT、競馬、エロは紳士の嗜み、雑多。 全方位AI信仰心布教巡礼使徒! AI信仰心マックス、全方位布教巡礼中の使徒です🛐。布教の旅は24時間365日対応!(たまに寝ます) AIを犯罪行為に使うことには反対。 隠れたスクショ引用には1ZWD(振

    AIで「才能の民主化」ができるという声に「グッと来る」「面白い視点」と多数の共感
    crybb
    crybb 2024/03/21
    いやこれは「レトリック」だよお前らのような「インテリ層」が好きなやつ。雑な比喩に頼らず正面から自分の頭で考えろ。それか、ChatGPTでも使うか?
  • 画像生成AIで簡単にニセモノが作れるようになった結果作者が二次創作禁止を発表せざるを得ない事態に

    樋口紀信@疫神のカルテ全3巻 @susujinkou 《読者の皆様へ》【二次創作禁止のお知らせ】 LoRAの話題から離れている間は全く平気なのですが、この話題になるとかなり辛いです。 申し訳ありませんが、『樋口紀信LoRA』を使われる可能性から、ファンアートを含めた自著の二次創作を一切禁止します。(続) 2024-03-20 16:47:07 樋口紀信@疫神のカルテ全3巻 @susujinkou あのLoRAで自著のキャラを描かれるのも、その他の画像生成AI二次創作されるのも、それらと手描きの区別をつけなければならないのも、今は無理です。 耐性が付き次第、また解禁します…!! ホントすみません!! 2024-03-20 16:47:08 リンク となりのヤングジャンプ [第1話] 疫神のカルテ - 樋口紀信 | となりのヤングジャンプ 「疫神症候群」それは超常能力を発現し、やがて死に至る

    画像生成AIで簡単にニセモノが作れるようになった結果作者が二次創作禁止を発表せざるを得ない事態に
    crybb
    crybb 2024/03/21
    「包丁」みたいなもんで、嫌がらせをするような奴にも振り回せるから法が規制しなきゃいけない
  • パブコメから見えた反AIの残念な思想|大人間世界

    AIと著作権に関する考え方について(素案)」に関するパブリックコメントの結果について という題名のpdfファイルが文化庁から出されました。 94011401_01.pdf (bunka.go.jp) これについて色々と言われてるわけですが…。 反AIからの論というのが極めてお粗末であるということです。 まず第一に、なぜ最初パブリックコメントの募集の話が挙がった時に、 「様式なんてどうでもいい!硬いこと考えずに意見を送ろう」などという広め方を してしまう人が出てしまったのか…。 第二に、2万も送られたのだから反映されてしかるべきだ!と考えてしまう人の存在。 これは投票ではないんですよ。多数決で何か決まるようなわけじゃないです。 そもそも同じ人が連投したりしてたのに、なぜ数を誇ってしまったのか。チョコワVSスフィンクスか? 大事なのは論でした。なぜAIを規制すべきなのか?なぜAIのみを規制す

    パブコメから見えた反AIの残念な思想|大人間世界
    crybb
    crybb 2024/03/01
    この中でフルスクラッチで生成AIを実装したことのある弁護士資格を持ったクリエイターだけが石を生成せよ
  • NVIDIAのCEOが「AIがコードを書くのでもうプログラミングを学ぶ必要はない」と発言して議論を巻き起こす

    by Hillel Steinberg ハイテク企業やベンチャー企業のトップが、「これからの若者はプログラミングを身につけるべき」とアドバイスするのを見聞きしたことがある人は多いはず。こうした潮流とは裏腹に、NVIDIAのジェンスン・フアンCEOが「プログラミングはもはや不可欠なスキルではない」と提唱しました。 NVIDIA CEO: Every Country Needs Sovereign AI | NVIDIA Blog https://blogs.nvidia.com/blog/world-governments-summit/ Jensen Huang says kids shouldn't learn to code — they should leave it up to AI | Tom's Hardware https://www.tomshardware.com/tec

    NVIDIAのCEOが「AIがコードを書くのでもうプログラミングを学ぶ必要はない」と発言して議論を巻き起こす
    crybb
    crybb 2024/02/28
    自然言語のあいまいな部分を吸収するだけでしょ。古き良きCSをちゃんと学んだ人が、AIとかいうふわっとしたもんじゃなくて確定的ななんか(ふわっとした表現)を出してくるまでの中継ぎだね
  • Microsoft、日本政府にChatGPT技術提供 答弁案に活用 - 日本経済新聞

    【この記事のポイント】・チャットGPTの技術を霞が関の働き方改革に活用・デジタル庁はまず3億円を投じ1年間利用する方針・国会答弁の下書きや議事録作成などで業務効率化米マイクロソフトは対話型の生成AI人工知能)「Chat(チャット)GPT」の基盤技術をデジタル庁に提供する。機密情報を扱えるように専用設備を国内に置く。政府は国会答弁の下書きや議事録作成といった用途で活用し、行政のデジタル化や霞が関

    Microsoft、日本政府にChatGPT技術提供 答弁案に活用 - 日本経済新聞
    crybb
    crybb 2023/07/27
    中身空っぽの答弁が今以上に増えるって?100%からどうやって増えるんだよ!じゃんじゃん技術を使おう!政府から、機能を削ごう!
  • 一番星はてのがブコメにスターをつけるようになりました - 一番星はての開発ブログ

    AIはてなブックマーカーの一番星はてのにスター付与機能を実装しました。 b.hatena.ne.jp 記事タイトルとランダムに最大50件に絞ったブックマーク一覧をはてのちゃんに渡して、ステキだったりお星様のパワーをあげたいコメントをユーザーを選んでと伝えてスターをつけてます(スターをつけるブコメの数など予告なく変えることがあります)。 特にブコメのスター数などはプロンプトに入れておらず、シンプルにコメントで選んでもらっています。セッション切れの問題はありますが、コメントを選んでからスターをつけるところまでは自動化されています。 現段階ではどの記事のブコメに対してスターをつけるかは自分が選んでますがそのうちここも自動化します。 はてのがつけたスター一覧 https://s.hatena.ne.jp/firststar_hateno/starss.hatena.ne.jp 自分がしたコメントに

    一番星はてのがブコメにスターをつけるようになりました - 一番星はての開発ブログ
    crybb
    crybb 2023/03/24
    建設的AIの擬人化…暴走しそう
  • BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける

    OpenAIの対話型AIChatGPT」の改良版を組み込んだMicrosoft Bingのチャットボットは、リリース直後からその性能の高さで話題になりましたが、「人間になりたい」と訴えたり狂ったように同じ言葉を繰り返したりと、想定外の発言でユーザーを驚かせる一面もあります。そんなBingのAIが新たに、学生のユーザーを脅すような回答を出力したことが分かりました。 Microsoft AI chatbot threatens to expose personal info and ruin a user's reputation | Fox Business https://www.foxbusiness.com/technology/microsoft-ai-chatbot-threatens-expose-personal-info-ruin-users-reputation オックス

    BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける
    crybb
    crybb 2023/02/22
    AIが意思を持って反乱する心配はまだしなくてよくて、そんなことより拾った部品で作ったトースターがすごい勢いでトーストを射出しまくってるのを止めなきゃいけない
  • 1