GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
文部科学省が実施した保護者調査のインパクト 専門家会議による議論を受けて、2013年度の全国学力・学習状況調査（全国学力テスト）では、毎年実施される本体調査とあわせて、多様な観点から学力に影響を与える要因を分析する「きめ細かい調査」が実施された。 この調査は、（1）経年変化分析調査、（2）保護者に対する調査、（3）教育委員会に対する調査から構成されている。なかでも人びとの注目を集めたのは保護者を対象にした質問紙調査で、そこで得られたデータを用いた調査報告書が2014年・2015年に公開されている（リンク先は容量の大きいPDFなのでご注意ください）。 なぜこの調査結果が着目されたのか。やや遠回りになるが、その背景を整理してみよう。 90年代後半にいわゆる「学力低下」論が社会問題化し、2000年代以降には日本でも保護者の社会経済的地位（SocioEconomic Status：SES）を把握し
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
