新手法「TAID」によって学習された小規模日本語言語モデル「TinySwallow-1.5B」は、同規模のモデルの中で最高性能を達成しています。さらに、小規模のため、APIなどを介さずお手元のスマートフォンやPCで完結してチャットが可能です。ウェブアプリまたは、GitHubにてお試しいただけます。 本稿は、経済産業省とNEDOが推進するGENIACによって支援されたSakana AIの研究成果を紹介するブログシリーズの第3回目です。 概要 日常的な対話はもとより、数学やコーティングといった複雑なタスクまでも人間と遜色ないレベルでこなせるようになった大規模言語モデル（LLM）は、今後ますます多くの場面での利活用が期待されています。こうした大きな期待の一方で、LLMの開発・活用の現場では、莫大な計算資源の必要性が大きな壁として立ちはだかってます。まずLLMの開発現場では、「大規模データと巨大計

中国のAI企業DeepSeekは1月20日（日本時間）までに、米OpenAIの「o1」と同レベルの性能をうたう大規模言語モデル（LLM）「DeepSeek-R1」を公開した。いずれもMITライセンスで、商業利用なども認めている。 大規模な強化学習のみでトレーニングしたという「DeepSeek-R1-Zero」、教師あり微調整を行い、数学やコード生成などでo1に匹敵する性能を実現したとうたうDeepSeek-R1を公開。さらに、DeepSeek-R1をベースに、米MetaのLlamaや中国AlibabaのQwenなどを活用して調整した6つの蒸留（既存の大きなモデルを基に、近い性能を持ったより小さいモデルを開発する手法）モデルも公開した。このうち「DeepSeek-R1-Distill-Qwen-32B」は、複数のベンチマークでo1-miniの性能を上回ったという。 R1はAPIも提供。料金は

最近、エンジニアは事業を理解すべきか？という話題をよく目にします。様々な経験や背景がある中での議論なため、多くの意見があり難しい話題だと思います。 エンジニアの主戦場は技術私は技術も事業も好きです。でもエンジニアです。 能力を表すのも求められるのも技術です。 まずは頭の中にあるアイデアを実現できる技術力は大前提で、その上で「エンジニアは事業を理解すべきか？」を考えるべきだと思っています。 事業への理解があることは、技術力がないことの免罪符ではありません。 むしろ事業への理解は技術力の一部です。 そもそも良いエンジニアに事業の理解は必要技術の意思決定において、前提や課題や目的の理解は大切です。仕事においては、事業や市場や顧客のドメインの理解がないと意思決定はできません。 エンジニアが事業をできる必要はありませんが、知識として事業を理解する必要はあります。 ちょっと不思議ですが、良いエンジニア

サタン@フリーランスエンジニア @satan_engineer つよつよエンジニア、初心者にやたらと厳しくないですか？ 新人の育成を疎かにすると、業界の衰退に繋がると思うのは私だけではないはず。 ところで「つよつよエンジニアの定義って何？」って聞かれて答えられる人いるます？ 納得いく答えが見つからなかったので、自分なりに考えてみました。 note.com/satan_engineer… 2024-11-10 19:39:30 リンク note（ノート） 【最強】つよつよエンジニアの正体｜サタン@フリーランスエンジニア SNSで「つよつよエンジニア」ってワードをよく目にするんですけど、じゃあ、つよつよエンジニアの定義って何だろう？と気になったので、私なりに 考えてみました。 つよつよエンジニアの定義は、ズバリこうではないか、と思います。 知識に対して誰よりも貪欲 努力が努力ではない 他人がつ

「CTOの視点で選ぶ「最適な」アーキテクチャとは？」というイベントで登壇しました。 本記事は登壇資料をMarkdownとしてそのまま記事化したものです。スライドのほうが読みやすい方は、Speaker Deckで御覧ください！ 自己紹介1｜職歴、趣味など 職種・SNS 株式会社NoSchool CTO 2016年〜Webエンジニア。2019年〜現職 Twitter(X): 名人｜マナリンクCTO Zenn: https://zenn.dev/meijin 好きなHTTPヘッダーはCache-Control 趣味 将棋☗、カメラ📸、ラム酒🥃、個人開発💻、筋トレ💪、高校野球観戦⚾ 自己紹介2｜外部発信・諸活動 ZennでReact記事が人気 歴代記事でLike数1位（登壇時点） 個人開発 テストメーカー（ユーザー20,000人以上） エンジニア向け教材執筆 「LaravelでFat Co

まず結論！IT エンジニアやデータサイエンティストと呼ばれる人には2種類います。 「ビジネスマンの中の技術担当」「技術者の中のビジネス領域担当」です。 ビジネスマンの中の技術担当なら、ビジネスも学んだほうがいいです。 技術者の中のビジネス領域担当なら、技術を学んだほうが良いです。 自分がどちらかを見極め、スタンスを取り、勉強・研鑽していきましょう！ じっくり詳細 - 2種類のエンジニアこの話は、IT エンジニア向けを想定して書きますが、データサイエンティストも当てはまります。なお、機械系のエンジニアは、私はあまり詳しくないのですが、普通に技術学ぶのが大事だと思う（？）ので、一旦置いておきます。 以降、めんどくさいので、「エンジニア」と書きますが、IT エンジニアやデータサイエンティスト等を指していると思ってください。 エンジニアには2種類います。それが、「ビジネスマンの中の技術担当」と「技

「私は人工知能（ＡＩ）悲観論者ではない」と、ダロン・アセモグル氏はインタビュー開始早々に宣言した。ＡＩの可能性は認めているという。 マサチューセッツ工科大学（ＭＩＴ）の著名な経済学者、アセモグル教授は迫り来る経済・金融の危機を警告する悲観論者的な声を上げるのは、ＡＩへの熱狂やそれがあおる投資ブームと驚異的なハイテク株急騰が、とどまらないところを知らないからだ。 ＡＩがどれほど有望であろうと、その過剰な期待に応えられる可能性は非常に低いとアセモグル氏は語る。ＡＩに奪われる職、あるいは少なくともＡＩに大いに依存する職は向こう10年でわずか５％に過ぎないというのが、同氏の計算だ。労働者には確かに朗報だが、生産性の急上昇を見込んでＡＩに巨額を投じている企業にはとても悪いニュースだ。 「多額の資金が無駄になるだろう」とアセモグル氏は話す。「５％では経済の革命は起きない」と述べた。

鹽竈ちゃん @shiogamachan よくあるウンコ営業からのダイレクトメールなんだけど、手書きを装ってても詰めが甘い。フォントに無い漢字を使うんじゃないよまったく。 pic.x.com/XD3rdemmKf

内閣官房は8月30日、各府省庁による事業を点検し、その結果や予算の流れを公表する「行政事業レビュー」を一カ所にまとめたサイト「行政事業レビュー見える化サイト」を公開した。府省庁を横断して行政事業レビューを検索したり、サイト内でグラフ化の上、データを分析したりできる。 行政事業レビューは各府省庁が予算や基金を用いて行う事業を対象に、原則として毎年度行っており、翌年度の予算要求や事業の執行時にも参照される。ただし、これまでは表計算ソフトで作成されたものが各省庁のサイトで別々に公開されており、参照性に欠けていた。 行政事業レビュー見える化サイトでは、2021年度以降、国が実施した事業のデータを掲載。府省庁を横断して目当ての事業に関する情報だけを検索できる。各事業のページでは資金の流れなどが図表としてまとめられている他、一部のデータはサイト上でグラフや表にして確認・分析することも可能だ。 例えば政

「10年超えRails開発の振り返りと未来 - 持続可能な開発の具体策｣の発表資料です https://pieceofcake.connpass.com/event/324722/

チャットAI・ChatGPTの開発元として知られるAI企業のOpenAIが、2023年初頭にハッキングされていたことが明らかになりました。 A Hacker Stole OpenAI Secrets, Raising Fears That China Could, Too - The New York Times https://www.nytimes.com/2024/07/04/technology/openai-hack.html NYT: Hacker stole details about OpenAI's AI tech, but the company kept it quiet - Neowin https://www.neowin.net/news/nyt-hacker-stole-details-about-openais-ai-tech-but-the-company

こんにちは！株式会社COMPASSのシステム開発部、SREチームのごーすと(@5st7)です！普段は、k8s周りの運用であったり、アプリケーションのパフォーマンスの監視、改善、インフラ周りの自動化などを積極的に進めています。三度の飯よりも好きなものがプリンで、美味しいプリンの店とかが流れてきたら1営業日以内に馳せ参じます。プリン好きな人はお店で会いましょう。 今日は負荷試験の取り組みについてご紹介できればと思います。COMPASSが提供するキュビナは現在100万人を超えるユーザーに利用していただいていますが、その分トラフィックも大きく、安定してサービスを提供できるようにするために、様々な工夫をしています。その中でも利用の集中する時間帯の負荷に耐えられるかの検証は非常に重要な取り組みの一つです。今回は、COMPASSが今まで負荷試験にどのように取り組んできたのか、その歴史と改善を行っていった

ソフトウェアエンジニアの話ね。想像して遊んでるだけね。 スキルは高い まず、マネージャになってほしいって言われる時点で「仕事を任せられる」というエンジニアなんだろうな。それは、つまりコードを書くことに加えて、プロダクトをなんとかしてリリースする力と責任感をもっていて、それが会社にとってプラスになっている。 だから、チームを任せて同じようなエンジニアを育てて欲しいと期待されている。自分自身も、自分のスキルをもっと会社の役に立てるぞー！とやる気になっている。 任せたい そういう人がマネージャになって、あるだろうなぁと思うのは「どう任せたらいいんだろう？」という悩み。 自分が手を動かせばプロジェクトがなんとかなるのは分かっている。でも、自分はマネージャの仕事があるし、そこは自分の役割ではないし、実際のところ手を動かす時間なんてない。それはメンバーにやってもらわないといけない。 ただ、だいたいの場

日本のIT（情報技術）エンジニア人材が逼迫し大きな問題となるなか、IT業界は賃上げのニュースに沸いている。日経クロステックが複数のシステムインテグレーター（SIer）に2024年春の賃上げ状況を聞き取ったところ、妥結済みまたは交渉中の賃上げ率（総額）は、5%を超えている。改善の兆しは明白だ。だが、本当にITエンジニアは、自身が生む価値に見合う給与を手にしているのだろうか。安月給に甘んじ、実は「

寄って集って批判してるからすごい炎上してる感じになってるけど、実際のところ一人一人の怒りはそれほどでもない、ってことはあると思うんだよな。 だから批判コメントのあとに怒りレベルを書いておけば「本気度」がわかっていいと思うんだ。 怒りレベル1：そこまで怒っているわけではないが、良いこととは思わないのでいちおう批判しておく。 怒りレベル2：瞬間的に怒りが湧いたので批判するが、継続的に批判し続けるほどではない。 怒りレベル3：とても怒りを感じる問題なので、これからも批判し続けていく。 怒りレベル4：この話題を見るたびに激しい怒りに苛まれ、次々に罵倒が溢れてくる。 怒りレベル5：激おこスティックファイナリアリティぷんぷんドリーム。 こんな感じでよろ。

私たちソフトウェアエンジニアは、コード品質についてしばしば論ずるけれども、ではコード品質の良し悪しがどれほどビジネスに影響するのかと問われると、回答に窮する。只々、「コード品質が悪いと変更により多くの時間がかかります」だとか、「欠陥の修正に追われて開発時間が奪われます」だとか、個人の経験やエンジニア的一般論に頼った定性的な説明に終始するしかない。ソフトウェアを繰り返し変更する頻度が高いほど、コード品質が開発時間に影響を与えるのは確かにそのとおりだと思えるが、はたしてそれは、どれほどのインパクトなのだろうか。 2022年の研究論文 "Code Red: The Business Impact of Code Quality – A Quantitative Study of 39 Proprietary Production Codebases" では、コード品質がビジネスに与えるインパクト

時間のない人向け はじめに 結果どうだった？ 作業環境 周辺環境 食事環境 香雅 珈香和ｃｏｃｏｗａ Tearoom Ciffon 参考 その他感想など 生活リズム 気になったところ・注意した方が良いところ まとめ 時間のない人向け Otellを使って4泊5日のワーケーションに行ってきた ワーケーションに適した作業環境がきちんと揃っていた 温泉や周辺の自然でリフレッシュできた 食事には少し困るが事前に調べてから行けば問題ない また他の場所にも行ってみたい はじめに 去年9月に現職に転職した後3月に大きめのリリースを終えて、ゆっくりと気分転換をしたくなり、4月中旬に以前から気になっていたワーケーションに行ってきました！ 重要視していたのはこの辺 ネットワーク環境の良いところ 1週間くらいは泊まりたい 東京から遠すぎない場所（3時間以上はかけたくない） 温泉に入りたい...！ ということで自分

共通マスタ基盤チームにおけるソフトウェアエンジニアのyugoです。 共通マスタ基盤チームは、従業員、商品、取引先といった製品横断で利用できるマスタデータを一元管理し、ユーザーにfreeeプロダクトにおける統合体験を提供できる基盤開発をミッションとしております。 そんな共通マスタ基盤チームチームですが、製品横断で利用されるとだけあり、日々の開発フローでPRレビューの割り込みが多いです。そんな中で、開発フローにgit worktreeを導入してみて、個人的にはPRレビューの割り込み作業時に割と使いやすかったので紹介します。 git worktreeを使うに至る背景 実はfreeeで働く以前、前職で先輩シニアエンジニアが「レビューするときにgitのstagingにあげていない自分の変更を、stashしたり、テキトーにcommitしてからrebaseするなりするの嫌だったら、worktree使った