AI検出器は有効か？ 学生たちは不当な不正行為の疑いに直面
(bloomberg.com)- AI検出ツールが課題評価に使われるようになり、学生の文章が AI生成物 と判定された場合、成績や不正行為の判断に直接影響する可能性がある
- Moira Olmstedは、2023年にCentral Methodist Universityのオンライン課程で提出した課題がAI生成の可能性ありと判定され、0点 を受けたと語っている
- 教授は検出ツールの結果を根拠に挙げ、Olmstedの文章は以前にも少なくとも一度 フラグ が立てられたことがあると答えたと伝えられている
- Olmstedはフルタイム勤務と育児を両立しながら、リモートの自己主導型プログラムの費用を工面して 教員養成課程 を始めた状況だった
- 教員の約 3分の2 がAI生成コンテンツ検出ツールを定期的に使っているとすれば、小さな誤り率でも多くの学生に大きな結果をもたらしかねない
AI検出ツールで0点を受けた学生の事例
- Moira Olmstedは、パンデミック初期に大学を離れて家庭を築いた後、再び学校に戻ろうとしていた
- フルタイムで働き、幼い子どもの世話をしながら、リモート学習が可能な 自己主導型プログラム の費用を数か月かけて貯めていた
- 第2子を妊娠7か月だった2023年、Central Methodist Universityのオンライン課程に登録し、教員になるための勉強を始めた
課題提出後に下された判定
- 秋学期が始まって数週間後、Olmstedは必修授業でライティング課題を提出した
- その課題は毎週行う 読書要約3本 のうちの1本だった
- その後に返ってきた成績は 0点 だった
- Olmstedが教授に問い合わせると、教授はAI検出ツールがその文章を人工知能が生成した可能性があると判断したと答えたと伝えられている
- 教授は、Olmstedの文章は以前にも少なくとも一度フラグが立てられたことがあると述べたという
広く使われる検出ツールと誤判定の負担
- 教員の約 3分の2 がAI生成コンテンツ検出ツールを定期的に使用していると明らかにしている
- 利用規模が大きくなるほど、非常に小さな 誤り率 でも急速に積み上がる可能性がある
- 検出結果が課題の成績や不正行為の疑いにつながる場合、誤った判定は学生個人に大きな負担となる
1件のコメント
Hacker Newsの意見
高等教育で30年間数学を教えてきて、もうすぐ退職する予定だが、教室で監督されない採点対象の課題には、途方もない量の不正行為がある
ブラウザロックのようなものでは防げない。唯一の解決策は、対面で監督する試験を必須にし、試験中はいかなる技術も使えないようにすることだが、そうすればその授業を履修する学生はいなくなるだろう。Higher Learning Commissionがすべての授業でこれを義務化するくらいしか思いつかない
より大きな問題は、学生が学ぶために必要なことをすることに慣れておらず、合格するために必要なことだけをすることに慣れている点だ。その「必要なこと」は、ますます不正行為になっている。微積分の学生の中にも分数を扱えない学生がいる。本当に不正を防ぐシステムを作れば、現在の大学生の非常に高い割合が本物の大学教育を受ける準備ができていないという事実が明らかになるだろう。K-12も変わらなければならない
学生の立場から見ると、次の機関が見るのは概ね成績、学校、専攻の順だ。Aを取れないことのコストが将来の機会から排除されることなら、学生はより簡単な授業を取るか、不正をしてその排除を拒むようになる
物理学を学びながら、取りたい難しい授業を取り、不正をせずにGPA 2.7で卒業したが、こうした選択には実際の結果が伴う。解決策は、不正に弱い評価や、現実にはコンピュータで処理するような評価への依存を減らすことだと思う
必修科目は学位取得に必要なので、カリキュラムに線形代数があれば「履修しない」ことはできない。3回落ちると除籍される
これはドイツと欧州の大半の大学が税金で運営されているからだ。米国では大学側にとって、金払いのよい学生を引き留め続けることが利益になるため、今説明した方向へ進み続けるだろう。サービスであり、学位を買う顧客という構造だ
大学でコンピュータグラフィックスの授業を受けたが、問題セットはボーナス問題のおかげで文字通り全員が100%以上を取り、中間試験の中央値は50%未満だった。試験対策セッションで教授が質問を受け付けたとき、ある学生が「行列の概念全体をもう一度説明してほしい」と真剣に頼んでいたのを覚えている
ちなみに400番台の科目で、カナダ有数の大学の一つだった。20年以上前の話なので、今は何らかの形でもっと悪くなっているはずだ
どうせ学生はそうした抜け道を使おうとするのだから許可し、その利点に免疫のある試験に変えようという理屈だった。試験前には毎回、道具の使用は可能だが「勉強はしろ。教科書とノートと電卓が君たちを救ってくれるわけではない」と言っていた
長期的には教育はAIツールの使用を防ぐより、AIツールが大きな利点をもたらさないようにカリキュラムを変える方向に進む気がする
ソフトウェアエンジニア採用で面接官として何百回も技術面接を行い、今も独立面接官として企業の採用を手伝っているが、不正行為は非常に多い。一般企業では少なくとも30%、FAANGでは50%以上が不正者だと思う
非公開グループやフォーラムで技術課題を共有し、面接中に何らかの形で助けを受けている人が非常に多い。意図的に複雑にした問題が数分で最善の方法で解かれる場面を、繰り返し目にしている
もはや、書面のエッセイだけで学生がテーマをどれほど深く理解しているかを評価するのは効果的ではありません。
AIは今後も存在し続けるので、学生の成果を評価する新しい方法が必要です。学校で試験中に電卓を使ってはいけないと言われた記憶があります。教師たちは「いちばん必要なときに、いつでも電卓を使えるとは限らない」と言っていましたが、今では24時間ポケットの中に「電卓」があるという皮肉があります。
世界が変わったことを受け入れるべきです。社会がその変化にどう対応するかを一緒に決められればよいと思うだけで、無理やり押し流されるような形にはなってほしくありません。
学生ローンを見るたびに考えてみる価値があります。そのお金を払っても、授業ごとに教師との個別の30分評価時間を買うことはできず、代わりにより長い時間を作文課題に費やさせ、その採点を最低賃金のティーチングアシスタントに押し付けていたのです。
典型例が大学入学エッセイです。学生によっては、エッセイで見栄えのよい経験を親が用意でき、エッセイ執筆を「支援」するチューターも雇えます。アフリカへの教育旅行、2種類の楽器レッスン、1対1のゴルフ指導といったものです。
AIは、そのチューターの部分をより広い層が利用でき、手の届くものにしただけです。AI以前にも、グレーゾーンのエッセイ指導市場や、ゴーストライティングサービスという闇市場が存在しなかったと考えるのは甘いでしょう。多くの場合、その市場はいまだにAIよりうまく機能しています。
通常は裁判所、議会、市場で起こる平和的な闘争ですが、それでも闘争です。
学生たちは今まさに評価されているので、新しい評価方法が必要なら、今すぐ答えが必要です。昔ながらの口頭試問に戻ることもできますし、博士課程では今も使われています。しかし、まったくスケールしません。もしかすると、人対人の評価に使える限られた時間に合わせて、高等教育をかなり厳しく配給制にする必要があるのかもしれません。
個人的には、このすべてが予測不能で不安定だと思います。AI支持者たちが正しいなら――私はそうは思いませんが――学生が訓練され評価されている事務職や学問分野の大半は消滅するでしょう。
電卓を入手できないかもしれないという主張は当時でも筋が通りませんでしたが、電卓に依存すると本来意図していた精神的訓練が奪われるという観察は正しかったのです。ただ、12歳の子どもたちに、数学が実際には美しく、その体系的な原理が世界の見方を根本的に変えるのだと説明するのが難しかっただけです。
エッセイも同じです。私はエッセイを書くのが嫌いで、今後エッセイを書くことはないだろうとさまざまに合理化していましたが、後になってみると、エッセイが強制していたのは構造化された思考でした。エッセイは何らかの科目の能力を評価する道具ではなく、学ぶための道具であり、書く行為そのものが学習の一部だったのです。
「子どもたちは頭の中で計算する必要はない」という言い方が見落としているのはここです。計算できる能力はもともと一部であり、その計算法を学べるという事実を学ぶことも、少なくとも同じくらい重要でした。
いら立たしいのは、学生にはなぜAIが自分の課題にフラグを立てたのかを聞く権利がないように見えることです。
コンピュータが人を判断するどんな手続きであれ、アルゴリズムがなぜその人にフラグを立てたのかを正確に説明できなければならない、というルールがあるべきです。
そうすれば現在のAIベースのソリューションは事実上死ぬでしょう。論文が盗用かどうかをなぜ判断したのかを説明したり理解したりする方法がないからですが、それで構いません。
もっと知りたいなら、Arvind NarayananとSayash Kapoorの最近の本、AI Snake Oilをおすすめします。批判的ながらバランスの取れた本で、AIへの過熱をより明確に見る助けになります。
https://press.princeton.edu/books/hardcover/9780691249131/ai...
これがどんな世界で公平なのでしょうか。少なくとも裁判所はこんな前提では動いていません。
こうしたことが起きたら、明確な説明を求める法律があるべきだと思います。
高校時代に自分が何者なのかを見つけるだけでも十分に大変だったのに、そのころカフカは読書課題にすぎませんでした。
大学病院のコンサルタントで、オランダ人です。数年前、博士論文に「ネイティブに確認してもらうべきだった」というコメントを受けました。
それ以来、今はChatGPTで英語を確認しています。書きたい内容を自分で書いたうえで、「もっと簡潔に、ビジネスらしく、あまりアメリカっぽくなりすぎないように」直してほしいと頼みます。デフォルトだと、アメリカのウェイターのように過剰に熱心だからです。
10回中9回は、私が言いたいことを、私が書いたものよりも上手に、より少ない語数で、より良い英語で表現してくれます。レポート作成時間が短くなったとは思いませんが、自分一人で作れたものよりはるかに良くなります。
AI検出器が反応するかもしれませんが、それはスペルチェッカー検出器と同じくらい役に立ちません。大規模言語モデルであって、大規模事実モデルではありません。教師なら、でたらめを見抜くのは得意であるべきではないでしょうか。
学生のレポートを見るなら、私はこうフィードバックすると思います。言語はぜひChatGPTで確認しなさい。ただし事実は、どうか別の方法で検証しなさい。
両方のクラスにとってほとんどタダの授業になり、本当に役に立ちました。翌年には私も同じことをしました。当時はコンピュータが比較的珍しく、タイピングも別に学ぶ技能だったので、草稿の大半が手書きだったことも覚えています。
あるテーマを本当に学びたいなら教えてみろ、という言葉は昔からあります。こうしたやり取りはうまく機能しますし、社会のそれ以外の部分も概ねそうやって回っています。AIを使うのもかなり似ているでしょうが、他人のほうが優れていると思います。AIは廊下で「おい、君の論文の真ん中あたりで完全に迷子になったんだけど、いったい何なんだ」と呼び止めてはくれませんが、そういう言葉が本当に役に立つことがあります。
明確な言葉とよく組み立てられた論証で文章をより読みやすくすることは、読者にとって価値あるサービスであり、そのためにLLMを活用する人を私は好意的に見ています。私もそうしています。
特定のテーマについてノンフィクションを出力しようとするモデルは、実際にたまたま真だった主張や、少なくとも真である主張と同じ形式を取り、明確な手がかりのない主張パターンにより多く接することになります。
もちろん、ときどき軌道を外れて幻覚を作り出します。そうなったときに出力を検証しない学生にとっては不運です。そして不正行為の動機の一つが、内容を十分に理解しておらず適切に検証できないことだとすれば、そういう学生はかなり多いでしょう。
子どもの学校が、登校時に通る新しい武器検出器を設置したのですが、「AI」ベースだそうです。学校はそのAIをかなり信頼しています。
ところがAIは、学校支給のLenovoノートPCを武器だと識別しました。そのため、子ども全員が引っかかりました。こうした愚かなツールの使用をやめる代わりに、子どもたちにスキャナーを通る前にノートPCを取り出させるようにしました。
十分に賢くない人たちが「AI」製品を買い、それが望むことを実現してくれると信じているものの、実際には機能していない、という状況が起きているように思えます。
公的予算でシステムを購入する人たちには、宣伝されている適合率と再現率に基づき、予想される偽陽性と偽陰性に対処するための適切な計画を定義することを義務付けるべきです。
大人たちが1〜2年の間に、どんなアルゴリズムでも信じるようになったのはかなり狂っています。どう動くのか知らず、説明もできず、気にもせず、ただ動くものだと思っている。つまり魔法です。それが不正行為だと言えば不正行為になり、何もできません。
強調したいのは、これは単に魔法を信じる問題ではなく、最近の人々が途方もないことをあまりにも平然と行い、しかも責任を取らないという点です。以前、学校である授業の宿題が初めて気に入って真剣に取り組んだところ、「不正行為」ではないかと疑われたことがあります。絶対にあなたがやったはずがないと言われるのは侮辱的でしたが、それでも点数はもらえました。証明できないなら教師が何を考えようと関係ないので、ただサインして出ていけ、という感じで、その授業の宿題はそれが最後でした。
逆にこの記事の内容が正しいなら、今の教師たちは何も証明する必要がありません。コインが表になったという事実だけで十分な証拠として扱われます。みんなが「学校にそういうシステムがあるんだから仕方ない」といったふうに受け入れているようです。狂っています。
私たちは30年以上にわたり、コンピュータは精密で、正確で、再現可能な出力を作るものだと人々に教え込んできました。ところがニューラルネットワーク企業はランダムな記号生成器を作り、そのプログラムの中にプログラムされたランダム性があるという事実を積極的に隠しています。
最近、米国の裁判所でまた生成テキストが出てきた事例がありましたが、今回は悪意はなさそうでした。要点は、原告がニューラルネットワークに不動産価値の過去の財務計算を依頼し、「コンピュータだから」とそのまま信じたことです。コンピュータは常に正しく、ニューラルネットワークはコンピュータ上で動くのだから常に正しい、というわけです。まもなくこの考え方が世界中のあらゆる家庭に広がるでしょう。そのときには、メディアの不誠実さやプロパガンダを懐かしむことになるかもしれません。少なくとも以前は、情報源が意図的に嘘をついているかどうかを、ある程度は見分けられました。
そうした無知に不快感を覚えることもまれで、基本だけでも学ぼうという意欲もほとんどありません。どうしても知っていなければならない人たちもいますが、私には非常に理解しがたいです。
そのシステムが魔女を探す宗教裁判であれ、機械であれ、ソ連のGulagであれ関係ありません。システムが有罪だと言った、そしてシステムは間違えるはずがない、というわけです。
Kafkaが墓の中で寝返りを打つでしょう。
この方式なら、それぞれの立場から社会を望むように形作れます。ある学生の兄弟が厄介者だったなら、「あの家はもともとそういう家なんだろうから、いじめよう」が可能です。学生の人種、性別、性的指向が気に入らなくても、「chatGPT」が学校生活をさらに難しくする簡単な手段を与えてくれます。
娘がオンラインスクールにエッセイを提出したところ、学校のソフトウェアがそう判定したという理由で、AIが書いた文章だと告発された。母親は娘が文章を書くところを見ていた。
テキストがAI生成かどうかを判別するのは不可能だというのが常識だと思っていたが、ソフトウェアベンダーが無知か嘘をついていて、学校の管理者たちがそれを信じているようだ。
それに、自閉スペクトラム症の学生のエッセイが不均衡にフラグ付けされる問題もあるので、一種の公民権侵害になる可能性もある。
自分で簡単に試してみて、だいたい動いているように見えれば、会社の主張は本当だと結論づける。問題は、そのテストがどれもAIが書いた課題を人間が書いたものとして通してしまう方向であって、その逆ではないことだ。
こうしたツールにはゼロではない誤検出率があるので、数週間かけて20ページの期末レポートに取り組んだ気の毒な学生がAI使用で捕まることは必ず起きる。その子には救済も不服申し立てもない。学校はAI検出器に大金を払っており、それが正しいと信じるからだ。
すでに電卓が算術能力を気にする必要をなくしてくれると判断したように。
米国ではこういうことがいつも起きる。住所検証システムのフィードバックが口座所有者の承認なしに受け入れられ、住所が勝手に変わることもある。カスタマーサポートに電話すると「システムが住所は正しくないと言っています」と言われる。まるで私が5年間どこに住んでいたかを、陸運局や家の権利書よりもシステムのほうがよく知っているかのように。エラー率が十分に低ければ、米国では人々はそのまま受け入れてしまう。
そしてさらに悪くなる。エラー率が低いのではなく、特定の下位集団で高いのかもしれない。そのとき、社会における自分の順位を目にすることになる。2003〜2006年に褐色の肌の人たちに、飛行機に乗るのがどれほど楽しかったか聞いてみればいい。ニューヨークでは、姓と郵便番号の組み合わせが誤って一致すると、公有地で運営されているCitibikeさえ借りられなくなる。
この件も同じだろう。大規模なACLU訴訟のようなものがそれを明るみに出さない限り、被害は解決されるまで続く可能性が高い。おそらく言語スタイルの微妙な特徴が、おそらく意図せず、トリガーとして使われるのだろう。標的にされない「内集団」の人々は公正なシステムだと主張し、ほかの人々はブラックボックスを相手に自分を弁護し、立証責任を負わされることになる。
子どもの先生の一人が、すべてのエッセイをAI検出ソフトウェアで検査し、発覚した場合にどんな処分を受けるかを学生に警告する文書を送った。
クラスメートがその先生の警告文をAI検査にかけてみたところ、AI生成の陽性判定が出た。
LLMはすでにこの種の文章を大量に食べているはずだ。高校であれ大学であれ、要件にぴったり合い、一般に良い点を取るべき定型的なレポートがGPT式の技術で生成された確率が高いと出るのは驚くことではない。
LLMはシラバスや基本的な教員向け文書も多く学習しているだろうし、短い教師・保護者間、または教師・学生間のコミュニケーションは、LLMが使う同じ文章上のアトラクター領域から簡単には抜け出せないだろう。
気になる理由は、この「AI」テキスト生成問題は技術問題ではなく、101%人間の問題だからだ。
4%の誤検出率は、それが落第や退学を意味し得るなら、とんでもなく高い。真剣に不正をする人なら「誰々のスタイルで書け」といった事前プロンプトで2分で回避できるのだから、なおさらだ。
「先生がすべてのエッセイをほかの学生のエッセイと照合して同じか確認し、見つかったら処罰すると警告した。ある学生がGoogle検索してみたら、エッセイの設問がある本の例として出てきた」というのに似ている。
一方は完全に妥当で、もう一方はそうではない。もちろんグレーゾーンはある。ChatGPTを何らかの用途に使うことは盗用ではなく、子どもたちがツールの使い方を学んでいるのだとも言える。だがエッセイの95%をそこに任せるなら、それは盗用だ。
学生の課題を扱ったり、求人応募書類を読んだりする人なら、AI生成文を素早く見分けるのはとても簡単になっています。
文章が同じ一般的なフレームワークを使っているように見え、単語だけが入れ替わっています。さらに、私が「今週の単語」と呼んでいる現象もあります。あるAIエンジンが特定の英単語、たいていは変わった単語に執着し、あらゆる機会にそれを使うのです。これが「ステロイドを打ったオートコンプリート」だという格言が正しいと気づくのに、そう時間はかかりません。
ただし、コンピューターにこれをやらせるようプログラムするのは簡単ではありません。以前の職場で盗用検出器を扱っていましたが、ほどなくそれらのツールがどれほどひどいものかを悟りました。そして、どれほど簡単にだませるかも分かりましたが、それはまた別の話です。教職員もツールがめちゃくちゃだとすぐに分かったので、盗用で告発された学生が反論すると、告発はひっそり取り下げられることがよくありました。
「技術的なテーマについて書け。テーマは何でもよく、1500語。採点基準はここにある」といった具合でした。採点基準には「段落の主題を紹介する文を使っている」といった項目があり、その結果、極めて定型的な散文を書くことになります。
優れた伝達者を育てられたのかは分かりませんが、コミュニケーションが非常に苦手だった人を最低限の基礎レベルまで引き上げるには、とてもうまく機能していたと思います。他のいくつかの作文課題にも有効でした。形式的であればあるほど、過労気味の博士課程の採点者に好まれたからでもあります。
十分に規律のある学生はChatGPTのように見える可能性があり、虚偽の告発の代償は非常に大きいです。
自分の文章コーパスをChatGPTに入れて、自分の文体で書くよう指示することもできます。
ただ、たまにある文を送ってくると、その前にAIを通したものかどうかを当てるのに、私は100%成功しています。文の構成の仕方に慣れると、とても見分けやすいです。教師のように権限のある立場なら、最も難しい部分はおそらくそれを証明することでしょう。
ここのコメントの大半は理解しづらいです。
高校のときは授業中に携帯電話を使えなかったので、不正行為はできませんでした。ワークシートや小テストはもちろん、選択式・口頭・エッセイ試験でも同じでした。
ところが上位のスレッドでは、学校制度全体を再設計しなければならないかのように語られていて、多くの人が口頭試問や監督付き試験に頼ろうとしています。教師が学生が携帯電話を使っていないことを確認するだけの単純な教室でのマークシート試験より、具体的に何をさらに解決するというのか分かりません。
多くの場所、とくに米国では、監督付き試験はほとんどなく、全体成績のかなり多くの部分が授業課題で構成されています。そこに教育のデジタル化が抗いがたく進んだことで、今の状況になったのです。
大学レベルになると、論文や最終レポートのように、教室内で終えるには時間がかかりすぎるプロジェクトもあります。こうしたプロジェクトは以前から盗用よりも代筆に弱く、名門大学でも実際にどれほど一般的かを知れば驚くでしょう。LLMはその障壁を下げ、より一般的にしただけです。
これは本当の問題で、人々は最初に考えるよりもはるかに巧妙に不正行為をします。
携帯電話が唯一の不正行為の手段ではありませんし、むしろこっそり使うには古い方法より難しい場合もあります。