BERT や GPT の登場により、テキストを扱うモデルは大きく発展しましたが、否定というごくありふれた操作を扱うのが依然難しいです。 本稿では、その理由と、部分的な解決策を紹介します。 目次 目次 否定文を理解できないAIたち 否定文を理解できずに困ること なぜ否定文をうまく扱えないのか なぜたまに成功するのか 対処法 ファインチューニング プロンプトの工夫 否定文を意識した訓練 文書数を増やす クエリとキーを拡張する おわりに 否定文を理解できないAIたち BERT (tohoku-nlp/bert-base-japanese-v3) で A =「私はお寿司が好きです。」 B =「私の好きな食べ物はお寿司です。」 のテキスト埋め込みのコサイン類似度を求めてみましょう。A と B は同じようなことを言っており、予想されるようにコサイン類似度は 0.9695 と高いです。 では、 A =「
New imaging techniques, combined with advanced machine vision tools, are helping to transform efforts to decipher ancient languages like Proto-Elamite (Credit: British Museum) Tablets from some of the world’s oldest civilisations hold rich details about life thousands of years ago, but few people today can read them. New technology is helping to unlock them. Broken and scorched black by fire, the
機械学習のエッセンス -実装しながら学ぶPython,数学,アルゴリズム- (Machine Learning) 作者: 加藤公一出版社/メーカー: SBクリエイティブ発売日: 2018/09/21メディア: 単行本この商品を含むブログを見る発売されてからだいぶ経ちますが、構想段階の頃より著者の「はむかず」さんこと加藤公一さんからお話を伺っていて注目していたこちらの一冊をようやく一通り読みましたので、サクッと書評めいた何かを書いてみようかと思います。 各章の概要 言うまでもなく実際の内容は皆様ご自身でお読みいただきたいのですが、これまでの書評記事同様に概要を簡単にまとめておきます。 第01章 学習を始める前に Python環境やAnacondaのインストールについての説明もなされているんですが、重要なのは後述する「本書は何を含まないか」という節。ここに本書の狙いの全てが書かれていると言って
第一部 「シンギュラリティ」 序文 シンギュラリティとは何か? - カーツワイルのシンギュラリティ説とその批判 ほとんどのテクノロジー成長は指数関数的ではない 収穫加速の幻影 ムーアの法則と人工知能 5.1. ムーアの法則 5.2. 精神転送 5.3. 人工知能研究と機械学習 5.4. 全脳アーキテクチャ 知能の拡大と思考主義批判 宇宙の覚醒 - まとめ 予言は外れた テクノ・ハイプ論：なぜシンギュラリティは問題か 後書き 第二部 「進歩と崩壊と没落の未来史」 序文 ハバートの法則と没落加速の法則 没落してゆく世界のスケッチ 崩壊概論 進歩の神話 崩壊教と進歩教 ディセンサスの流儀 後書き (執筆中…) 第三部 「技術的超越の思想史(仮題)」 (構想中…) 本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたもの
Only white babies appear in a search for "babies" on Microsoft search engine Bing... There is growing concern that many of the algorithms that make decisions about our lives - from what we see on the internet to how likely we are to become victims or instigators of crime - are trained on data sets that do not include a diverse range of people. The result can be that the decision-making becomes inh
ディープラーニングの本格的な入門書。外部のライブラリに頼らずに、Python 3によってゼロからディープラーニングを作ることで、ディープラーニングの原理を楽しく学びます。ディープラーニングやニューラルネットワークの基礎だけでなく、誤差逆伝播法や畳み込みニューラルネットワークなども実装レベルで理解できます。ハイパーパラメータの決め方や重みの初期値といった実践的なテクニック、Batch NormalizationやDropout、Adamといった最近のトレンド、自動運転や画像生成、強化学習などの応用例、さらには、なぜディープラーニングは優れているのか？ なぜ層を深くすると認識精度がよくなるのか？ といった“Why”に関する問題も取り上げます。 関連ファイル サンプルコード 正誤表 ここで紹介する正誤表には、書籍発行後に気づいた誤植や更新された情報を掲載しています。以下のリストに記載の年月は、正
Stephen Hawking has warned about the dangers of artificial intelligence. More than 1,000 tech experts, scientists and researchers have written a letter warning about the dangers of autonomous weapons. In the latest outcry over "killer robots", the letter warns that "a military AI [artificial intelligence] arms race is a bad idea", external. Among the signatories are scientist Stephen Hawking, entr
Mr Alcine tweeted Google about the fact its app had misclassified his photo Google says it is "appalled" that its new Photos app mistakenly labelled a black couple as being "gorillas". Its product automatically tags uploaded pictures using its own artificial intelligence software. The error was brought to its attention by a New York-based software developer who was one of the people pictured in th
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
