米Microsoftは1月7日（現地時間）、昨年12月に発表した小規模言語モデル（SLM）の「Phi-4」をHugging Faceで公開したと発表した。ライセンスはMITなので、商用アプリを含むモデルを自由に使用、変更、構築できる。モデルの重みも公開されており、開発者は基礎となるパラメータに直接アクセスして変更可能だ。 Phi-4は、Phiファミリーの最新モデル。14B（140億）パラメータとコンパクトながらも、従来の言語処理に加え、数学などの分野での複雑な推論に優れる。数学の競技問題で、米Googleの「Gemini Pro 1.5」や米OpenAIの「ChatGPT 4o-mini」を含む、はるかに大規模なモデルよりも優れたパフォーマンスを発揮するとしている。
BERT や GPT の登場により、テキストを扱うモデルは大きく発展しましたが、否定というごくありふれた操作を扱うのが依然難しいです。 本稿では、その理由と、部分的な解決策を紹介します。 目次 目次 否定文を理解できないAIたち 否定文を理解できずに困ること なぜ否定文をうまく扱えないのか なぜたまに成功するのか 対処法 ファインチューニング プロンプトの工夫 否定文を意識した訓練 文書数を増やす クエリとキーを拡張する おわりに 否定文を理解できないAIたち BERT (tohoku-nlp/bert-base-japanese-v3) で A =「私はお寿司が好きです。」 B =「私の好きな食べ物はお寿司です。」 のテキスト埋め込みのコサイン類似度を求めてみましょう。A と B は同じようなことを言っており、予想されるようにコサイン類似度は 0.9695 と高いです。 では、 A =「
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル（LLM）の数十億のパラメータの中でたった1つのパラメータを削除するだけで、モデルのテキスト生成能力が完全に崩壊することを発見した論文「The Super Weight in Large Language Models」に注目します。 研究チームは、このパラメータを「スーパーウェイト」と名付けました。70億のパラメータを持つMetaのLlama-7Bモデルでは、このスーパーウェイトをゼロにするだけで、モデルのテキスト生成能力が完全に失われ、ゼロショッ
動画生成AIの発展により、非常に面白い方向性が生まれてきています。最新の動画生成技術と3D技術を組み合わせることで、たった1枚の絵から、3Dデータを作れるようになる可能性が出てきているんですね。これは将来のゲーム開発や映像制作のあり方を激変させる可能性があります。 ※記事配信先の設定によっては図版や動画等が正しく表示されないことがあります。その場合はASCII.jpをご覧ください 動画生成AI「Runway」新機能がきっかけ まず、この動画を見てください。Stable Diffusionを使って作成した1枚の画像を、いくつかの手順を実施することで、3Dモデルとして扱えることに成功している様子です。 こうしたことが実現できるようになったのは、動画生成AIサービス「Runway」に11月2日に追加された新機能「カメラコントロール機能（Advanced Camera Control）」のためです
日本マイクロソフトは11月18日、AI研究拠点「Microsoft Research Asia-Tokyo」（マイクロソフトリサーチアジア東京） を都内に設立したと発表した。AIの社会実装に向けた研究を進めるとともに、人材育成にも注力する。 アジア太平洋地域におけるAI研究やイノベーション強化を目的。 主な研究テーマは、ロボットなどにAIを組み込み、対話などを行う「Embodied AI」、AIが社会に及ぼす影響を研究し、技術を人類の利益に役立たせる「Societal AI」、学際的な研究と産業界との協力を通じてイノベーションを促進する「インダストリーイノベーション」など。 共同研究プロジェクトやインターンシップ、招聘研究員プログラムなどを通じた人材育成も進める。 関連記事 Microsoft、日本の生成AI・クラウドに大型投資 AI研究所も開設 過去最大4400億円 米Microsoft
ネコがニャーと鳴くのは人に対してだけだが、何を言わんとしているのかを理解するのは難しい。（PHOTOGRAPH BY MARTIN POOLE, DIGITALVISION / GETTY IMAGES） 「ネコにはボキャブラリーがあります。そして、注意を払っていれば、飼いネコをより理解できるようになります」と言うのは、飼いネコのニーズを理解する「最高のツールの提供」を目指したAI（人工知能）アプリ「にゃんトーク（MeowTalk Cat Translator）」の生みの親であるセルゲイ・ドレイジン氏だ。にゃんトークは無料アプリで、飼いネコの鳴き声を録音すると、「イライラしてる（I’m annoyed）」「餌ちょうだい！（Feed me!）」など、短いせりふに翻訳してくれる（編注：一部サービスは有料）。 翻訳の精度を評価できるようになっており、それによってコンピューターモデルが改良されてい
米Microsoftは10月1日（現地時間）、「Copilot+ PC」と「Windows 11」に搭載する新たなAI機能を複数発表した。Copilot関連とWindows 11に分けて紹介する。 Copilotの新機能 Copilotは、「すべてのユーザーのためのAIコンパニオン」。Microsoftは、「ユーザーの許可があれば、ユーザーの代わりに人生の複雑さを軽減し、ユーザーが重要なことに集中するための時間を増やすことを支援する」としている。 OpenAIの「高度な音声モード」のような「Copilot Voice」 「Copilot Voice」は、米OpenAIのChatGPT向け「Advanced Voice Mode」（高度な音声モード）と似た音声機能。モバイルアプリとして、音声で会話しながらブレインストーミングや日常会話を行える。4種類の音声から選択可能。会話を繰り返すことで、
非常に高性能な画像生成AI「ImageFX（Imagen 3）」の登場です。 FLUX.1がMidjourneyと並ぶ最高峰の画像生成AIとして注目を浴び始めてから2週間もたたないうちに、新しいAI画像サービスが、なんとGoogleから登場しました。それがImageFXです。 Googleは画像生成AIの新バージョンであるImagen 3をリリースしたばかりですが、この技術を使った「ImageFX」というサービスをGoogle AI Test Kitchenでスタートしています。これが生成する人物画像がとてもリアルだというので評判です。GeminiでもImagenを使った画像生成は可能なのですが、制限が厳しく、人物を含んだ画像の生成ができなくなっています。 ▲GeminiのImagenでは人物画像が生成できない ImageFXは、テキストプロンプトを入れると、4枚の画像が生成されるという仕
製品に「ＡＩ」の説明を付けると人々を遠ざける可能性があることが示された新研究が発表された/gorodenkoff/iStockphoto/Getty Images （ＣＮＮ） 人類の新たな開拓地としてＩＴ大手が大金をつぎ込んでいる人工知能（ＡＩ）分野だが、製品やサービスを紹介する際にＡＩに言及すると消費者の購買意欲が下がる可能性があることがわかった。 今回発表された研究ではさまざまな年齢層の参加者を抽出して同じ商品を見せた。唯一の違いは、一方は「ハイテク」という表現を、もう片方は「ＡＩ」という表現を使っている点だ。 ワシントン州立大のダゴン・ガーソイ教授（ホスピタリティー企業経営）はＣＮＮの取材に対し、「掃除機やテレビ、消費者サービス、医療サービスなどを調べた。どの場合でも商品の説明でＡＩについて言及すると、その製品やサービスを購入または利用する意欲が大幅に低下した」と述べた。 今回の研究
防御側で生成AIの活用が進む中、サイバー攻撃者たちもこれを悪用する機会をうかがっている。彼らはこれをどう悪用しているのか。チェックポイントのリサーチャーが生成AIがはらむ問題を解説し、悪用の今後の方向性を示した。 チェック・ポイント・ソフトウェア・テクノロジーズ（以下、チェックポイント）は2024年7月18日、都内でイベント「Check Point CPX Japan 2024」を開催した。 同社の方向性を語るセッションとして、書籍『Cyber and Hacking in the Worlds of Blockchain and Crypto』の著者である、Check Point Software Technologiesのオデッド・ヴァヌヌ氏（プロダクト脆弱《ぜいじゃく》性調査 責任者）による特別講演「AIが現代のサイバー戦に与える影響」が実施された。 AI時代においてサイバー攻撃者は
「当然の時代の流れだった」と思っているという話。 最初に書いておくとこれはAIに反対する記事ではないので、規制を推奨する内容を期待して開いた人はブラウザバックをお勧めする。 あと推敲全然しないで思いつくままに書いてるから、すごく読みづらい。 それでも良いという人は以下にどうぞ。 2年ちょっとくらい前まで、イラストで食っていた。 ただし、バリバリ企業と契約とかして1枚10万とか取っているプロイラストレーターではない。 ココナラとかSkebとかSKIMAとか、そういうコミッションサイトでフリゲーやTRPGやVtuber用の立ち絵イラストを1枚1万弱で売り捌いている、いわゆる「アマチュア底辺絵師」だった。 （そう呼ばれる層にいた、という意味で「底辺」という言葉をあえて使う） 絵のクオリティは全身立ち絵で1万円ついたらいい方ってくらいの、「X(旧Twitter)でよく見るちょっと絵が上手い人」のラ
マルチメディア，分散，協調とモバイル（DICOMO2024）シンポジウムでの招待講演の資料です。 https://dicomo.org/
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 2024.06.21 Updated by Ryo Shimizu on June 21, 2024, 18:19 pm JST 世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。 いくつかの興味深い事象が起きているからだ。 昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。この最新のLLNは、日本語向けオープンLLMとしては初の「命令実行」チューニングを施されている。それだけでなく、RAGと呼ばれる、複数の知識を組み合わせてより正解に近い答えを導く技術や、Function
「驚くべきドローン、まさにゲームチェンジャーだ」──。米国Skydio製のドローン「Skyido X10」について興奮気味に語るのは、KDDIで取締役執行役員常務 CDO 先端技術統括本部長 兼 先端技術企画本部長を務める松田浩路氏だ。 KDDIは5月13日、Skyido X10を開発する米Skydioとの資本業務提携を発表。同社に「三桁億円」（松田氏）を出資したという。今後はプライマリーパートナーとしてSkydio X10を国内販売するほか、Skydio製品の独占販売権を韓国、台湾、シンガポール、モンゴル、タイ、フィリピン、ベトナム、インドネシア、マレーシア、バングラデシュ、カンボジアにおいて獲得し、ドローン事業の海外展開も目指す。
GPT-4o (“o” for “omni”) is a step towards much more natural human-computer interaction—it accepts as input any combination of text, audio, image, and video and generates any combination of text, audio, and image outputs. It can respond to audio inputs in as little as 232 milliseconds, with an average of 320 milliseconds, which is similar to human response time(opens in a new window) in a conversat
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
