2025-02-05

生成AIによる地獄はこれからが本当の始まり 〜上司迎合する日経新聞誕生

今はまだ生成AIが使い物にならないので大丈夫だが、概ね1年半後に地獄が訪れるだろう。

出力と理解度がチグハグなので卒論指導に困る、というのは非常に上澄みの意見だと思う。インフルで熱に浮かされていてもわかる。良い環境だよ。

大切なことなので強調しておきたいが、この悩みが出るということは、とても良い環境研究されている、真面目で真摯な方なのだろう。頭がさがる。

こういった研究室やゼミ所属できた人は幸運だと思う。その幸運を活かすことなく、ただ漫然と生成AIを使うのはとても勿体無いことだとも思う。

https://anond.hatelabo.jp/20250203224000

とはいえ地獄が訪れるのはこれからだ。今から準備しておきたい。

生成AIがなぜ使い物にならないか

現状の生成AIは「(嘘を嘘と見抜ける人でないと)使うのが難しい」からだ。

数学問題がどれだけ解けるか、というのはベンチマークとして使われているからで、実用的とは言い難い。

また、何が欲しいのかがよくわかっていないまま曖昧な内容を入れて、欲しい出力物が得られるほど、コーディング能力も高くはない。

話題沸騰中のDeep Researchも、何をどう調査したくてどんな限界があるのかわかり、かつ、それが正しいか確認できる人にしか使えない。

卒論指導話題も、ある意味で「どうやってググればお目当てのソースコードが探せるか」だけに特化した学生が増えた、と類似話題で現状の延長線上と言える。

(逆説的に、卒論レベルコーディングで詰まる学生が出るということは、生成AIはまだ使い物になっていない、ということだ)

生成AI活用しているのは誰なのか

今の生成AI界隈で猛烈に進んでいることは、「アインシュタインタイプライターを打たせるな」という状況だ。

アインシュタインの方がタイプライターを早く打てたとしても、秘書タイピングさせた方が良い。

(絶好調なら)自分の方が絶対に上手くやれるが、まあ生成AIでもそこそこやるやないか、という人は今でも十分使えている。

その代わり、タイピングみたいに頭空っぽにしてやれていた息抜き仕事がなくなって、常に自分しかできないことを要求されるようになるわけだけど…

どうやって生成AIによる地獄が訪れるのか

生成AIが使い物になり出してから地獄だ。性能的には半年〜1年程度で到達すると思う。

そして、日本企業予算のつかないポッと出のものに即応できるほど柔軟な裁量を持っていないので、導入が決定された次の半期からスタートになる。

(多くの日本企業の次の上半期に話題になり、下半期に検証が行われ、次の上半期に根回しが行われて、その次の下半期からスタート

場合によっては、ソフトバンクパッケージ導入、という形がとられても何ら不思議ではない。

そこで見られるのは、繰り返し繰り返し現場が苦渋を舐めさせられてきた、コンサルタントへの対応だ。

管理職それぞれに専属コンサルタントがつく地獄

コンサル有効機能する現場を見た人もいると思うが、共通するのは「外部の権威を導入することで、スムーズ物事を運ぶ」ではなかっただろうか?

これ、「実現したいことは明確だけど社内政治でうまく行かねえからゴリ押ししたい」って、社内に主導者が居た場合で、コンサル主導ではなかったはずだ。

コンサル主導で迷走するのは、そもそも何をしたいのかも良くわかっていないし、何ができたらゴールなのかも定義できないからだ。

今後、何のビジョン専門性もない数多くの管理職ゲートキーパーが、生成AIという専属コンサルタントを盲信するようになる。

それ、ChatGPTは違うこと言ってるけど?

現時点では「Grokはこう言っていた」とか「ChatGPTはこう言っている」という指摘の仕方をするのは馬鹿扱いされている。

情報が古いし、間違いもあるし、そもそも幻視作話)するから適切な使い方ができない人にとっては使い物にならない。

でも、もう人類の大半よりは賢いし、コーディング能力も高く、辻褄を合わせるのも上手だ。

そして残念ながら日本企業管理職専門性が最も優れた人がなるわけではないので、管理職よりも専門性に優れて間違えない生成AIは生まれしまう。

彼ら彼女らにとって、自分よりも賢く正しいことを言うのであれば、そこを区別するのは出力物の量だけになる。

Geminiにやらせれば良いんだから簡単でしょ?

今でも専門性を軽視し、人頭いくらしか計算しない管理職は山ほどいる。

コンサル意見鵜呑みにし、まずはやってみようという軽い言葉で、大量の今後使わない仕事が生まれるのも良く見る光景だ。

それでもまだ現場が耐えられたのは、概ねコンサルもどブラックで、ゴリゴリ書類やらパワポやらを持ってくる超馬力を見ていたからだ。

あれだけクソミソに叩かれた電通が(叩かれる理由同意できるし擁護はできないが)現場一定の信頼が置かれるのは、彼らは絶対にケツを持ったからだ。

認めたくないが、そこには超人的な仕事量をこなすサラリーマンに対する畏敬の念があった。

それが、低コストかつ(人間に比べれば)即時回答する、コンサルタントが常に横につくようになるわけだ。

管理職は今後気軽に言い放つようになる。

「これ、生成AIが出してきたアイデアなんだけど、それぞれ資料ちゃんと作ってきてよ。Geminiにやらせればすぐでしょ。明日までね」

上司迎合する日経新聞誕生

ある朝出勤前に、調査検索系の生成AIに「XX業界における現在トレンドと、今後の展望、注力すべき事業分野についてまとめて」と指示を出す。

日経新聞では私の履歴書だけ読んで、職場についてコーヒーを淹れて自席に戻ったら、生成AIの結果に目を通して、事業分野の気になった点をピックアップする。

そして、部下にこう言えば良い。

「XXという事業分野が有望そうで、アイデア3つほど選んでおいたから、事業計画と取れそうな市場の規模、売上高黒字化までのストーリー作ってきて」

地獄である

(尚この地獄は、上から下まで満遍なく発生する)

そんなんぜんぶ上司が生成AIでやったら良いじゃん

今後ベンチャーではそういう人材が大いに増える。

何の誇張もなく、今でもそういうベンチャー大勢あるが、極端に増える。

人当たりが良くどんなに酒を飲んでも酔わず、あたかもすでに儲かっているかのように皮算用をしてみせる資金調達ビジョナリーと、

生成AIを始めとするあらゆる自動化ツールを使って事業を形にするワンマンアーミーとのタッグでのベンチャーが急増すると思う。

(実際には「バグだらけだけど一応動くプロトタイプ」を生成AIで作って資金調達成功し、そこに群がるギークたちがAIが書いたコードを延々メンテデバッグする光景だと思うが)

でも、既存日本企業はそんなに組織体系を大きく変えない(変えられない)ので、それを実施するのは部下になるのだ。

でも、部下も生成AIを使えるようになるでしょ?

日本企業では不思議なことに、資料作成者資料に対して責任を負う。

その資料採用した人も、その資料採用して方針を決めた人も、その資料採用して決めた方針GOを出した人も、責任を問われることはない。

常に責任は、資料を作った人に帰結するのだ。

から、生成AI作成した資料を取りまとめて上司に提出する人間が、常に最終的な責任を負う。そう、キミやワタシだ。

いやいや、俺らだって業受とか派遣かに資料作ってもらったりするじゃん。そうだね。

でも彼らの責任を問うても無駄だ。だって俺たちが率先して切ったりするじゃん。今更責任だけ負えとは言えない。

まとめ

まともな人間であれば、レビューはきちんと行うし、レビュー漏れレビュー実施者の責任だと理解している。

そういう常識的上司がいれば理想的だ。でもそんな理想郷ばかりじゃない。

そう言った職場では、地獄が発生する。防ぐ方法は無い。

より一層、言質をとって記録に残すのが重要になる。

記録をどう共有し、誰が認識していて、誰がそれを使ってくれそうかを把握する必要がある。

それをシステムと呼ぶのか政治と呼ぶのかは、人それぞれだろうと思う。

記事への反応 -
  • 生成AIの登場で卒論クオリティは様々な面で変化した 高偏差値大学ではあるので,卒論そのものが生成AIによって書かれている,なんてことはさすがにあり得ない 大体,教員が与えたテ...

    • 今はまだ生成AIが使い物にならないので大丈夫だが、概ね1年半後に地獄が訪れるだろう。 出力と理解度がチグハグなので卒論指導に困る、というのは非常に上澄みの意見だと思う。イ...

    • ここに書く労力があるならそのまま学生に伝えればいいのに それともこの文AIに書いてもらったか?

    • 人間を教育するよりAIを教育した方が社会のためかも

      • そう🦆

      • どうせ人間なんて向こう40年くらいしか働かないし自分にとって都合のいい話しか聞かないし都合のいい話しか話さないしそのくせ待遇にうるさいし気に食わなければすぐ辞めるし全部AI...

    • むかし取った計量経済学の講義だと、こういうことをなくすためにTSPやSPSSの利用は禁止して、sumproduct関数くらいまでの本当に計算の道具としてExcelを使うことだけ許された状態で、2SLSな...

    • ほっとくってことはできないの?そもそも学問する気が無いじゃんそいつら。これが、卒業のために単位が必要だから嫌々とった授業、とかならまだ同情の余地はあるけど、卒論のテー...

      • 大学入ってくる奴の9割は素質ないんだよ。 昔からそんなもんだよ。 素質なくても4年で叩き込むから大学には価値があるんだわ。 どんな優秀なやつでも逃げたくなるズルしたくなる。 ...

    • 過去にはレポートにWikipediaコピーなんてあったくらいだし時代の流れはあるにせよ学生の生態はそれほど変わってない気がする

    • 「ChatGPTが書いたコードなので,どこが間違ってるのか自分で判断できないし,ChatGPTもわからないとのことです」という返事. 高偏差値大学の学生がそんな自分が不利になる返事する...

      • この学生か教授に 『1+1は何故2になるんですか?』 というエジソンだかアインシュタインだかがした質問をしてみたいわ。

        • してどうするの? 他人を試す行為は一般にはスゴイシツレイにあたるぞ 教授なんて目上の人には特にな

          • そーゆー失礼な行為をこの教授は学生にしてる訳だよ

            • そもそも学生は試されてなんぼでは? それとも「目上」って言葉の意味が分からない人?

              • まあそこは「目上」じゃなくて「一般に」でしょ

                • 目上で合ってるよ 学生から見て「教授なんて一般の人」なんて意味不明

                  • 「一般の人」なんて言ってないが・・・ ちょっと中学の国語の授業受け直してきてくれ・・・

            • アインシュタインだかが失礼なことしたって話かよ 歴史上の偉人の失礼エピソードを突然投げつけて何がしたかったんだ

      • うちはレベル低いけど、だいたいこんな感じよ やれと言われたことをChatGPTに入力して、出力をコピペすることはできる でも望んだ出力じゃなかったときにプロンプトでなんとかしよう...

        • 低レベルならそうかもね 「どういう部分にAI使ったかちゃんと書け」と指導しとけよ それが教育

        • 高偏差値大学の学生は自分の知性にプライド持ってるから「どこが間違ってるか判断できない」なんて軽々しく言わない

    • GAIを使いながらコードを書いているけど、正直そのまま使えるコードは吐き出さん。 ただ、ものすごい未来感はある。 終わりじゃなくて、リスタート地点だと思う。

    • 卒業認定しなければよいのでは

    • 「本当に頭良いやつはggり方がわかる」が「本当に頭良いやつはチャトり方がわかる」になっただけ どっちも中身はAI

    • 卒研だとこれでもいいが修論でこれだと教員側は詰む 学会発表履歴の存否を盾に不合格認定できるか?

    • 普通の句読点使ってくれ

    • >> 「理解していないのに,詰まっていないふりができる」ようになったことで,教員としてはサポートが非常に難しい << 教員ではないがこれはくそわかる。そのまま何とか解決...

    • 社会では結果が出せればいいからわかる必要はないんよ。そういうとこが日本の教育のダメなところ。 海外ではAIが結果を出してそれを組み込んでビジネスを回してる。だって結果があ...

      • そうだねー、学問の世界ならNGだろうけど、就職希望なら十分かな🤔

      • 間違ってるかもしれない結果に予算執行できるのかよ 失敗の責任の所在は?失敗で済まない場合(人命のロスなど)が生じたら? ビジネス舐めてるのはお前だろ

        • その言い方だと研究開発や新規プロジェクトは全てアウトで前例のあることしかできなくね?

          • なんでそうなるんだ 正しいかどうか、妥当性があるかどうかの確認もできない計画なんて小説と変わらんだろう AI使うにしろ、第三者が妥当性の検討ができる状態だったら何の問題もな...

        • 現代はVUCAの時代、不確実性の時代といわれているから海外では気にしないよ。 失敗するとか怖がってたら何もできない。失敗の責任の所在?そんなもん気にしてるから前に進めないの...

        • いまどきゼロリスク信仰かよ

          • ゼロリスクにしろなんてどこから出てきたんだよ AIが嘘つくなんて当たり前なのに確認もせずに盲信する方がアホ お前は自称経済専門家の投資セミナー鵜呑みのして全財産突っ込んでれ...

      • でも、結果出せてないじゃん

    • もう研究がAIにとって代わられる時代もすぐそこだから、そんな葛藤は短期的なものでは 妻が旧帝トップ大学の教授で海外のジャーナルの査読も散々担当してるけど(もちろん自分でも...

      • そうなったら世の中どうなるんだろう もう学者の皮をかぶった活動家も商売あがったりじゃないか

        • >学者の皮をかぶった活動家も商売あがったり    それなら少しは良い方向に変わるんだろうね 論文ろくに出してない奴が学者とかいってマスコミではしゃぎすぎだしね

      • あと10年もしたら新しい学者って殆どいらなくなるねって  ・・・ お、おい。 マジかよぉ...   とっとと大学を離れて良かったぁ...

    • GPTありきの教育にアップデートしていくしかないですね 計算ライブラリのオプションの使い方を教えるのと同様に、プロンプトの書き方を教える LLMチャットの履歴を研究ノートとして残...

      • それだったら中卒の風俗嬢でも出来る

        • 分かんねえ時にすなおにわかりませんって言ってくれれば使いやすいのになあ なんかわかった風に回答してくるのが一番難

    • でも,生成AI以降は「理解していないのに,詰まっていないふりができる」ようになった いや、前からそうだよ

    • 単なる過渡期 以上

      • これが答えだと思う。 教員と学生では住んでる世界が違うし、教員側が時代の変化について行くしか無いと思う。

    • 生徒自身に学ぶ気があれば必要なところはちゃんと自分で考えて覚えて……って進んでいくと思うけど 電卓やプログラムがどうやって動いてるかわからなくても道具として使えるように...

      • ちょっと前にバズった、プログラミングの弟子を取ってみたみたいな話に近いなコレ

    • うーん、遂に来てるか? 高等教育そのものの必要性に踏み込むときが……

    • むしろそこからが真の教育だろう。何言ってんだ。 そういう考えだから学生とのコミュニケーションの取り方が下手くそな自分の言い訳に始終してるんだよ。

      • ほんとにそうだ。時間をとって学生と向き合うべきだ。あんたは分かってる。

    • 「ChatGPTが書いたコードなので,どこが間違ってるのか自分で判断できないし,ChatGPTもわからないとのことです」という返事. という課題に対して、どんな教育ができるのか?が問わ...

    • こんなんでも高卒より給与いいんだよな 中身大して変わらんのに

    • 誰も読まないんだよねえ

    • 学生に謝罪文を書かせたら、妙なので詰めたら、 chatgptで書きましたとゲロる。 こういうことが、この半年で3回あった。   もうだめだわ。この国とかこの文明とか。

      • えー ワイは業務報告メール、前日のをテンプレとして流用で書いてるやで

        • 業務報告はOK 謝罪文をchatgptにてはあかんやろ。

          • でも「すいませんでした」しか書いてなかったら怒りますよね 謝罪文が満たすべき要件を定義できないのであれば、教官が満足するまでクイズ大会するしかないんですが

            • まあ「教官を満足させる」のが目的だからな・・・クイズ大会でも裸踊りでもするしかない・・・裸踊りはパワハラにあたるため制限されているからクイズ大会するしかない・・・

            • 教員や謝罪対象者の心を想像して、気持ちや悲しみを察することは訓練になるし、再発防止に繋がるよ。 そもそも重大なことをやらかす奴は、自分の行為や言葉が他人にどう影響するか...

    • 高偏差値大学ではあるので,卒論そのものが生成AIによって書かれている,なんてことはさすがにあり得ない その発想、こいつ、本当に大丈夫か・・・???

    • 高偏差値大学と言っても、どうせ慶應とか早稲田の内部進学のアホだろ?

    • こういう仕事って、むしろChatGPTの得意分野じゃない? 「こないだの計算のバグかもって話どうなった?」って聞くと, 「ChatGPTが書いたコードなので,どこが間違ってるのか自分で判...

    • LLMは嘘言うからね。 (いまのところは) 正解や成果物のゴールまでの道筋を分かってる人がショートカットするために使う道具。 ためしにgpt-4oに適当な日本語の文字列を渡して、「何文字...

    • >> 「あなたができるようになること」がゴールなの << ひとえにこれかなぁ…自分の場合、自分でできるようになりたかったから、諦めずに身につけようとしたし、できるように...

    • >「ChatGPTが書いたコードなので,どこが間違ってるのか自分で判断できないし,ChatGPTもわからないとのことです」 正直なポンコツで草 でもこれは、ChatGPTを使うとまともに教育できな...

    • 俺は高卒だけどChatGPTが出してきたコードが動かなかったらここはこういう動作してほしいんだけどこれだとそうならないよね?ってツッコミいれれば数往復でちゃんとしたコードにでき...

      • 高卒自慢乙

      • 解こうとしている問題の複雑さによる 高卒ってそんなことも分からないのか

      • 暗喩や文脈からほのめかされる事実を、読み解くとかならともかく、文章に明示されたコトすらも掴みかねられるご様子で……。通常であれば、小学生程度の国語力で十分に理解できる...

        • 「かような」の誤用を指摘してくれというリクエストなのかな? それとも無知自慢の一種?

    • 僕は計算結果が欲しいわけじゃないの.教育の機会として,君にやってもらってるの. 大学の教員がこんなこと言ってる時点でだいぶ渋い。 90年代以降発展した学習科学は、良い学び...

    • 最近、AIアシストでコードを書く世界についての考察を読んだけれど、AIを使うには使いこなせるだけの能力が必要なんだよなって思った。 AIアシストの時代になってから、スクラッチで...

      • プロトタイプを作るノウハウは フルスクラッチ時代のエンジニアだけが実務経験と共に持っているもので「AIがいればプログラマ不要!!」とまでいわれるこのご時世に、みすみすITの金...

    • 「コードくらい手打ちしたらどうだ」の声に驚いて振り向くと、AIコーナーで高齢の男性とが育成。男性はサッサと立ち去ったけど学生はAIコードを前にして俯いたまま。私は咄嗟にAIに...

    • https://anond.hatelabo.jp/20250203224000 そもそもの大学教員側と学生側のミスマッチを感じる。 四年制大学を卒業して就職をしようとしてる学生にとっては卒業研究は、卒業するために与えられ...

      • 教員だっててめえの研究が一番大事で、学生の教育なんか所詮余計な作業でしかないんだからお互い様だろ

    • 日本語の文章なのにカンマとピリオド使うのめっちゃ理系仕草ですね(笑)

    • 確かに、生成AIの登場で卒論のクオリティや教育のあり方が大きく変化していますね。特に、「理解していないのに詰まっていないふりができる」 という点は、教育者にとって大きな課...

    • 相手の思考能力や想像力が足りておらず、自分の期待した行動を取ってくれない。 って大概説明不足だよな。Whyがちゃんと相手に伝わってない。 察するべきじゃなくて伝えるべき。指導...

    • 数年後、卒業論文の指導は根本的に変わっていた。 学生たちは相変わらず論文を提出するが、それを読むのはもはや人間ではない。査読も指導もすべてAIが行う。指導教員は形式上いる...

    • chatGPT禁止したらいいじゃん

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん