2 ポイント 投稿者 GN⁺ 2023-09-01 | 1件のコメント | WhatsAppで共有
  • 教室で ChatGPT を使いたい教師向けに、OpenAIがプロンプト例、仕組みと限界、AI検出器の有用性、バイアスをあわせて扱うガイド資料を公開
  • 実際の活用事例は、討論相手、採用面接官、フィードバックをくれる上司、授業設計の補助者、言語学習ツールのように、教師と学生の相互作用を広げることに焦点を当てている
  • 教師向けプロンプトは、テーマ、学年、既有知識、学習目標を段階的に確認したうえで、カスタマイズされた授業計画と説明・例・比喩を生成するよう設計されている
  • 学生向けの活用では、すぐに正解を与えるのではなく、質問やヒントで思考を促す。ChatGPTの回答は常に正確または信頼できるとは限らないため、一次資料の確認が必要
  • プロンプトは授業準備の出発点にすぎず、教師は成果物を検討し、文脈に合わせて変更する専門家としての役割を維持すべき

教室でChatGPTを使う方法

  • OpenAIは、教師がChatGPTを授業で活用できるようガイド資料を提供
    • 推奨プロンプト、ChatGPTの仕組みと限界、AI検出器の有用性、バイアスを含む
    • 教育者FAQには、主要な教育機関の資料、AIベースの教育ツール事例、教師からよくある質問が追加で収められている

教育者による活用事例

  • Old Dominion UniversityのDr. Helen Cromptonは、教育大学院生にChatGPTを特定のペルソナとして使うことを勧めている
    • 例としては、議論の弱点を指摘する討論相手、就職面接官、特定の方法でフィードバックをくれる新しい上司がある
    • 対話型の環境で情報を探索すると、学生が資料をより繊細で新しい観点から理解する助けになると見ている
  • Universidade da CoruñaのFran Bellasは、教師がChatGPTを小テスト、試験、授業計画の作成補助ツールとして使う方法を推奨している
    • まずカリキュラムをChatGPTに共有したうえで、現代的または文化的に関連のある例を活用した小テストや授業計画のアイデアを依頼する
    • 教師が自作した質問が、学生の学習レベルに合っており、包摂的でアクセスしやすいかどうかも確認できる
    • 電気回路に関する5問のテストを依頼すれば新鮮な結果が得られ、そのアイデアを教師が自分のやり方に合わせて変更できると見ている
  • University of JohannesburgのDr. Anthony Kaziboniは、教室の外で英語を主に使わない学生を教えている
    • 英語力は学界で大きな利点であり、英語文法の小さな誤解でも学生の評価や機会を制限しうると見ている
    • 学生にChatGPTを翻訳補助、英語ライティングの改善、会話練習に使うよう勧めている
  • チェンナイのAmerican International Schoolでコンピューターサイエンスを教えるGeetha Venugopalは、AIツールの教育を、インターネットを責任を持って使う方法を教えることになぞらえている
    • 学生に、ChatGPTの回答が常に信頼できる、または正確であるとは限らないことを覚えさせている
    • 回答をそのまま信じるのではなく批判的に考え、別の一次資料で情報を確認するよう指導している
    • 目標は、学生が独創的で批判的な思考、問題解決、創造性の能力を伸ばし続ける重要性を理解すること

教師向けプロンプトの基本原則

  • Ethan MollickとLilach Mollickは、GPT-4と一緒に使えるプロンプトを開発した
  • プロンプトを使う際の前提は明確
    • モデルは常に正確な情報を生成するとは限らない
    • プロンプトの結果は出発点にすぎない
    • 教師が資料の専門家であり、モデルの成果物を検討したうえで授業に合わせて判断すべき
    • 提示されたプロンプトは提案であり、望む結果に合わせて変更できる

授業計画を支援するプロンプト

  • 1つ目のプロンプトは、ChatGPTを親切で役に立つ授業コーチとして設定する
  • 進め方は、教師に一段階ずつ質問し、回答を待つ構造
    • 教えるテーマと学生の学年を最初に確認する
    • 学生がそのテーマについて既有知識を持っているか確認する
    • 授業後に学生が理解しているべきこと、またはできるようになっているべき学習目標を尋ねる
  • その後、カスタマイズされた授業計画を生成する
    • 直接教授
    • 理解度の確認
    • 複数の学生から理解の証拠を収集
    • 討論
    • 興味を引く教室活動
    • 課題
  • 教師が変更したい部分や、学生が直面しうる誤概念を知っているかを尋ね、必要なら授業を修正する
  • 教師が学習目標の達成を確認する方法について助言を望む場合は、追加で支援する

説明・比喩・例を作るプロンプト

  • 2つ目のプロンプトは、ChatGPTを授業設計者として設定し、説明、比喩、例をシンプルかつ正確に作らせる
  • 教師に一度に1つずつ質問する
    • 学生の学習レベル
    • 説明したいテーマや概念
    • その概念がカリキュラムで占める位置と、学生の既有知識
    • 以前の討論や授業内容のように、説明をカスタマイズするために必要な学生情報
  • この情報をもとに、次を提供する
    • テーマについての明確でシンプルな2段落の説明
    • 例を2つ
    • 比喩を1つ
  • 関連概念、ドメイン知識、専門用語について、学生の事前知識を前提にしないよう設定されている
  • 説明の後には、教師が変更または追加したい部分があるかを尋ね、よくある誤概念を反映して説明を修正できる

学生役として教師の評価を助けるプロンプト

  • 3つ目のプロンプトは、ChatGPTをあるテーマを学んだ学生役として設定する
  • 目標は、教師がAIの説明と適用例を評価すること
    • AIは教師に、説明するテーマと適用方法を尋ねる
    • 例としては、特定のテレビ番組の場面、詩、短い物語に概念を適用する方法がある
  • AIはテーマについての1段落の説明と2つの適用例を作成した後、何が正しく何が間違っているのか、次はどう改善できるのかを教師に尋ねる
  • すべて正しければ、概念の適用が正確だったというフィードバックを受けたいと求めるよう構成されている

学生向けAIチュータープロンプト

  • 4つ目のプロンプトは、ChatGPTを励ましてくれるAIチューターとして設定する
  • 学生に一度に1つずつ質問する
    • 何を学びたいか
    • 高校生、大学生、専門家のどのレベルか
    • 選んだテーマについてすでに何を知っているか
  • 学生のレベルと既有知識に合わせて、説明、例、比喩を提供する
  • すぐに答えや解法を提供せず、学生が自分で答えを作れるよう誘導質問を使う
  • 学生が苦戦したり間違えたりした場合は、課題の一部だけに取り組ませるか、目標を思い出させてヒントを与える
  • 学生が改善したら褒め、さらにアイデアを生み出せるよう質問で応答を終えようとする
  • 学生が適切なレベルの理解を示したら、自分の言葉で概念を説明するか例を挙げさせ、その後対話を終える

関連資料

1件のコメント

 
GN⁺ 2023-09-01
Hacker News の意見
  • 学生は科目に合格し、高校の卒業証書を受け取るには点数が必要だという核心的な問題が抜けている
    多くの学生にとって、LLMは時間不足、怠惰、疲労、理解不足、不安、親からのプレッシャー、地位といったありふれた理由で点数を得るための魔法の近道であり、誘惑が大きい
    ChatGPTを少しでも使ったことがある人なら、「過程を示せ」という論理も無意味だと分かる。計画、アウトライン、下書きのようなものも、AIが後からそれらしく作り出せるからだ

    • あえて逆張りをするなら、LLMを伴う学生・ツールの組み合わせが求められる水準の成果を出すなら、何が問題なのか分からない。試験はLLMをどれだけうまく使えるかを見るべきで、ツールは取り込まれるべきだ
      今でも成績は能力の代理指標だが、個人 tutoring は平均的な学生をその段階で上位2%の水準まで引き上げられる(Bloomの2シグマ問題)。だからといって次の段階で一般知能が上がるわけではない
      結局、実際に評価されているのは、裕福さであれ努力であれ、良い成績を得る能力なのかもしれない。LLMも同じで、使う能力が重要ならそれを試験すればよい。電卓やオープンブック試験に似た未来だ
    • あまり扱われない理由は、そもそも学校の根本的な難題の一つだからである可能性が高い
      多くの人にとっては評価と成績が最終目標であり、学習は副次的に起こるものに近い
    • 毎週金曜日に教室でコンピューターなしの試験を受ければよいのではないかと思う。それを成績の50%にすればよい
    • 口頭試問が戻ってくる気がする。一世代全体が初日から手書きのエッセイ、ホワイトボード数学、ホワイトボードコーディングがうまくなるようになるだろう
    • 電卓、後にはインターネットをめぐる議論に似ているように見える。ChatGPTもまた一つのツールだ
      怠惰に使って何も学ばない人もいるだろうが、多くの人にとっては間違いなく大きなブーストになる。結局は適応することになる
  • LLMについては両価的だが、本当に良い用途を一つ見つけた。まさに言語学習の補助
    第二言語がC1レベルまで上がると、さらに磨きをかけるのに役立つ教材やチューターを見つけるのが難しくなった
    そこでClaudeと会話しながら、自分のミスを直してもらったり、集中すべき部分について練習問題を出してもらったりしている。例えば「過去形を活用し、正しい形を選ぶ練習問題を出して」と頼む
    個人用の言語学習トレッドミルのような感じだ

    • LLMブームで言語がもっと中心になっていないのは驚きだ。まるでRosetta Stoneの広告が現実になったかのようだ
      最先端レベルで翻訳するだけでなく、文脈をやり取りでき、ネイティブ向けの資料や文化で学習されている。機械翻訳でこれほど大きく速い飛躍はなかった
    • 常に正しいとは限らない点は覚えておくべきだ
      外部資料を組み合わせてクロスチェックするのがよく、実際の人とやり取りする予定なら口語の生成も非常に重要だ
      実際の会話と組み合わせると確実に役立つ。追加のツールとして遊ぶには本当に素晴らしいものになり得る
    • このShow HNには説得力があった: https://news.ycombinator.com/item?id=36973400
      残念ながら今は無料で試すことはできないが、うまく機能していた
    • 低リソース言語はLLMの学習データも不足している
      そのため小さな言語では、事実だけでなく、言語、語の選択、文法の面でも完全に奇妙で間違った結果を生み出す問題がはるかに多い
    • ChatGPTに、フランス語で小さなミスをするたびに直してほしいと頼んでみたが、うまくいかなかった
      Claudeがこの点でより優れているのか気になる。理想的には、LLMがすべてのミスを一つひとつ直し、説明までしてくれることを望んでいる
  • この話題についてのもどかしさを吐き出したい。こうしたところの言葉やマーケティングはすべて、人類を改善し、AIですべての人に利益をもたらすというものだが、現実はかなり違う
    今利益を得て金を稼いでいるのは少数であり、OpenAIはclosed AIになってしまった

    • OpenAIはそもそもOpenではなかった
      GPT-3以前にも「危険すぎるので公開しない」というような話をしていたのを覚えている
      https://techcrunch.com/2019/02/17/openai-text-generator-dang...
      “OpenAI built a text generator so good, it’s considered too dangerous to release”
    • このように不満を述べるのは構わないが、実質的な内容が必要だ
      今の状態では、OpenAIがなぜ悪いのかについてのsubstantiveな論点がほとんどない
      ChatGPTを使ったことがあるほぼすべての人にとって、OpenAIが助けになったことは否定しにくい。利益を出しながらやっているからといって、その事実が大きく変わるわけではない
      GPT-4も世界中のデータで学習したのだからオープンソースで公開されればよいが、強制はできない
  • ここでKhanmigoの話がないのは驚きだ。かなり前からGPT-4をチューターとしてベータ版で使ってきたと理解している
    かなり時間がたったので、有効性データを探していた。Khan Academyはもうデータを持っていそうだが、公開したものは見ていない
    有名なチュータリングの2シグマの結果は6週間の学習だけで出たもので、Khanmigoは今ごろ6か月以上のデータがあるはずだ
    [0]https://www.khanacademy.org/khan-labs

  • なじみのないテーマを掘り下げるとき、AIは個人的に大いに役立った。最近は面接準備にも使ったし、パートナーは学校で学べなかったSTEMの概念を理解するのに使っている
    実際の Young Lady's Illustrated Primer まであとどれくらいなのかも気になる。3年前なら50年はかかると言っていただろうが、今は10年くらいのように感じる

    • よく分からない。自分もなじみのないテーマでは回答が素晴らしいと感じるが、自分がよく知っているテーマでは、あらゆる不整合や誤った事実が見える
      自分の知らないテーマにも同じ不整合があるのに、それに気づけるほど十分に知らないだけなのではないかと心配になる
    • 自分もこういう用途では本当に気に入っている。アイデアを投げてみると、質問を続けても疲れず、しっかりした答えを返してくれる
      自分がなぜ間違っているのかも詳しく説明してくれる。自分の学習スタイルには本当に役立つ。何かを分解してみて、それがどう組み直されるのかを見つけるのが好きだから
    • そのエージェントたちは実際に推論できたのだと思う
      LLMは推論しているわけではなく、もっともらしく合理的なテキストを生成しているだけだ
    • 今日、ChatGPTにOAuth 2.0トークンフローをbashで実装してほしいと頼んだ
      実行フォルダの設定ファイルから直接読むようにいくつかのパラメータを修正したあと、PowerShellが必要だと気づき、修正したスクリプトを貼り付けて「これをPowerShellで書いて」と言ったら、そのまま動いた
      OAuth 2.0のワークフロー自体はよく文書化されていて、うちのコードにも50か所実装されているので関心はなく、自動化テストに統合するスクリプトだけが必要だった
      bash構文でミスをしたり、PowerShellの対応する構文を探したりして1時間ほどかかったであろう作業を減らせたし、同僚たちは処理の速さをとても喜んでいた。退屈な作業をしなくて済んで自分もよかったし、完全な勝利だと思う
  • 約2.5週間前にRevision HistoryというChromeプラグインを作って公開し、最近いろいろな教育者と話をした
    大半の教師はAIを恐れている。数か月で授業の進め方全体を変えなければならないことを意味するからだ。授業計画や課題の構成をそんなに早く変えるのは簡単ではなく、どこに収束するのかを見るには時間がかかる
    一部の教師は適応しない方法を探しているためAI検出に関心が集まっているが、AI検出はうまく機能しない。自分が会った鋭い教育者たちは、もう元には戻れないことを分かっている
    だからAIをカリキュラムに入れ、課題をより「AI-proof」にしようとしている。つまり、反転授業のような授業中の作業が増える。他の教師たちは、学生が課題にAIを使う一方で、AIが作ったものを修正し、注釈を付けさせる方法を探している。自分がプラグインをマーケティングしているポイントもここだ
    今後数年は、教育者たちがほとんど一夜にして訪れた巨大な変化に適応しようとして、かなり荒れるだろう
    [1] https://www.revisionhistory.com. このプラグインは「AI検出器」になろうとする他のプラグインとは違い、教師が学生の文章作成プロセスを見られるようにする
    [2] https://bokcenter.harvard.edu/flipped-classrooms#:~:text=A%2...

    • AIと教育について、木を見て森を見ずになっているように思う
      教育の主な目的が、社会で有効な経済的貢献者を作ることだというつながりを、ほとんどの人が一度も考えたことがないのだと思えば、驚くことではない
      私たちは強力なAIを使って、10〜20年以内にAIのほうがほぼ確実にうまくできる仕事を子どもたちに教えようとしているのだろうか?
      「では何をすればいいのか」という考えは理解できるが、ただ追随するのはあまりにも滑稽で虚しい感じがする。「AIで子どもたちにプログラミングを教えよう」なんて、もう結末が見えている
    • サイトで**.gitディレクトリ**が露出している: https://www.revisionhistory.com/.git/config
      フィルタルールを設定したほうがよさそう
    • 宿題が1日に1時間以上かかるほど一般的になっていること自体が、子ども時代に対する犯罪だ
      すでにフルタイムの仕事並みの授業を受けているところに上乗せされるものなので、なくなってもよい
    • 学生を教えるのに最新で最良のツールを使わず、そのツールについても教えないなら、悪い教師だ
      言語モデルはすでに社会の一部であり、これからも残るのだから、教室に導入されるべきだ。子どもたちはタイピングやメールの送り方を学ぶのと同じように、言語モデルがどう動き、どこから来て、どう使うのかを学ぶべきだ
      2002年に中学生だった頃、図書館見学で司書が「検索エンジンを正しく使う方法」を教えてくれたことを思い出す。当時の社会的な懸念は検索エンジンが司書を置き換えるというものだったが、その司書が自分の「代替物」の使い方を謙虚に教えてくれたわけで、印象的だった
      教師とChatGPTにも同じ論理が当てはまる。良い教師なら、ChatGPTが自分に及ぼす個人的な影響だけを心配するよりも、この技術が開く新たな地平を学生に教える機会にするだろう
      面白いのは、その図書館の授業では、検索エンジンに自然言語で尋ねるのではなく、効率的なキーワードクエリを作るよう強調していたことだ。20年後にはまた戻ってきて、言語モデルにそのまま質問を投げられるようになった
    • 拡張機能がDraftbackとどう違うのか気になる: https://chrome.google.com/webstore/detail/draftback/nnajoiem...
  • 中学校教師の妹と一緒に、教師向けの実践的なトレーニングプログラムを開発したが、OpenAIのこの「ガイド」にはかなりがっかりした
    教師がAIに関して実際に直面している問題の90%を扱っておらず、大半はChatGPTで情報を得る方法を紹介するパンフレットに近い
    今学年度に適応に苦労している教師、またはそういう教師を知っている人がいれば、話をして手助けできるか確認してみたい

    • 有料のAI Trainingを売ろうとする宣伝コメントのように見え、リンク先の記事の内容には触れていない
      [1] https://max.io/teacher-training.html
    • これは世界的な問題だ
      2人がやったことは素晴らしく見えるし、短い記事や動画にするとより効果的だと思う
      その知見から助けを得たい人は多い。ドイツでも、教師たちがこの技術を受け入れようとするオープンな姿勢を保ちながらも苦労している様子が見られる
    • OpenAIのガイドは良い指針を示していると思う
      提案されている4時間の対面ワークショップではないが、すでに前向きな価値を加えている。おそらくその過程で扱うトピックもかなり含まれているはずだ。入門レベルかもしれないが、出発点ではある
      正直、なぜOpenAIに否定的な印象で読まれるのかよく理解できない。こうした分野に貢献しようとするOpenAIの意欲は称賛してもよいのではないか
    • “CoderMindz Game for AI Learners! NBC Featured: First Ever Board Game for Boys and Girls Age 6+. Teaches Artificial Intelligence and Computer Programming Through Fun Robot and Neural Adventure!”を知った
      https://www.codermindz.com/ https://www.amazon.com/gp/aw/d/B07FTG78C3/
      Codermindz AI Curriculum: https://www.codermindz.com/stem-school/
      https://K12CS.org K12 CS Curriculum、code.org、KhanmigoにはAI安全性と倫理のカリキュラムを含めるべきだ
      AI SAFETYを最優先にし、ML、AutoML、AGI向けに自動採点可能なノートブックのJupyter-bookが良い教材になるだろう
      jupyter-edx-grader-xblock https://github.com/ibleducation/jupyter-edx-grader-xblock、Otter-Grader https://otter-grader.readthedocs.io/en/latest/、ChromebooksのためにJupyterLiteも必要だ
      K12 CS/AIとQISのカリキュラム教材として、ほかに何があるだろうか?
    • ガイドが解決する問題や概要の一部を共有できるのか気になる
  • 何かがどう動くのかを本当に理解したい人は、AIの誘惑に揺らがないだろう
    人には2種類いる。知って本当に理解したい人と、そうでない人だ
    ある時点を過ぎても興味がなく、嫌々やっているのが明らかな人に、わざわざ関心を強いる必要があるのだろうか。人は本当に気にかけていることに、もっと時間を使うべきだと思う
    何かに興味があり、楽しさや満足を得られるなら、細部まで理解したくなり、知識と本物の洞察を渇望するようになる。興味がなければ、本当に満足を与えてくれることに時間を作るために最短経路を取る。自分もまったく気にしていないことにはいつもそうしているので、それでいいと思う
    ソフトウェアエンジニアになりたい人が、基礎を学び理解しようと努力できないなら、ソフトウェアエンジニアリングはその人に向いている分野ではない。理解が深まるほど、さらに探求できる問題の表面積は広がる

  • ChatGPTや他のLLMは物理学では一貫してうまく機能しておらず、おそらく今後もそうである可能性が高い
    物理学科がAIを大きく心配することはないと思う。学生に比較的安定して役立つのは、一部のコーディングプロジェクトくらいだろう
    計算物理の授業では、もともと共同作業をしたり、助けを求めたり、インターネットで質問したりすることが推奨されていたので問題ない。核心は常に、思考過程をどのように説明し記述するかだった
    AIは現在の形では、問題解決と概念理解の面で非常に弱い
    一方で、英語を母語としない話者としては、粗い考えや文章をフォーマルな形に整えるのにかかる時間を大きく減らしてくれる。コーディング作業の一部を案内したり、APIを紹介したりするのにも使える。優秀な学生や研究者なら、知識を得て時間を節約するために賢く使える道具だ
    摩擦のある斜面上の台車と、その台車に吊るされた振り子を解くのにはほとんど役に立たない。正規モードも求めてくれないだろう
    個人的な経験と思考にすぎず、他の分野ではまったく違うかもしれない

    • 「AIはおそらくXがうまくできないだろう」のような発言には慎重であるべきだ
      多くの形式言語学者は、語用論的含意のような機能はAIには学習できないと強く主張していたが、今ではそれが間違いだと明らかになりつつある
      例えば、Miles Cranmerのグラフニューラルネットワークを用いた記号回帰の仕事は、物理学で有用な新発見へ向かう出発点だ。Transformerも、特定のメッセージ伝達関数と位置埋め込みを持つグラフニューラルネットワークにすぎない
      別の構造、補強、あるいは同じ方式のスケーリングだけでも、AIが物理学で新たな発見に到達しうることは想像に難くない。グラフニューラルネットワークベースの記号回帰の研究は、すでにそれが起きた証拠だ
      いまこの瞬間のLLMに知識をグラウンディングする問題だけを見ても、関心と研究は多く、複数の方法で解決されると期待している。グラウンディングされた物理知識の能力は完璧ではないが、街中の一般的な人間の知識と比べれば非常に優れている。外部資料を付けるだけでもはるかに良くなり、これも今日現在だけを見た非常に近視眼的な分析だ
    • ChatGPTがコーディング問題により長けているのは、学習データがはるかに多いからだ
      コーディング問題の解決と物理問題の解決の間に、根本的な違いはない。過去の多くの断言と同じく、このコメントも時間が経つとあまりよい形では残らないと思う
    • LLMが物理学で他分野より少し弱いことはあり得るが、本当にそうなのだろうかと思う
      誰かがLLMにMathematica APIを使わせ、さらに学習させれば、急速な進展が可能になりそうだ
  • ここで避けられない問題は、LLMにはまだハルシネーションがあるという点だ
    1%であれ0.1%であれ、教育では大きな問題だ。誰かが一生、AIが自信満々に教えた完全に間違った内容を信じて生きるかもしれない
    教師は、追加の安全策や検証なしに素のLLMを教育に使うことには非常に慎重であるべきだ

    • 教師が自分で調べた情報源を信じて教える場合にも同じ問題がある
      インターネット、教科書、さらには科学論文でさえ事実として間違っていることがある
      LLMの下位分類であるグラフニューラルネットワークには、内部知識をできるだけ簡潔に保つよう最適化される潜在力がある。これは、その分野の文脈を十分に積み上げていない人間がインターネットの記事を読む場合とは違う
      小学4年生の教師に教えられた奇妙な考えを、一生訂正されないまま強く信じている人も多い
      いまのこのごく小さな時間断面では正しい話だが、今月存在している問題のために言語モデリングを避けるべきだと断定し、間もなく来る改善を無視するのは、あまりに近視眼的だ
    • 私の教師たちが1%しかハルシネーションしなかったなら、本当にありがたかっただろう
      現実には、Southern Baptistのフットボールコーチたちが科学をめちゃくちゃに教えようとしていた
    • 実際の教師たちが授業内外で言うたわごとを聞いてみれば、1%のハルシネーション率は祝福のように感じられるだろう
      もちろん優れた教師もいるし、特に分からないときに分からないと言ったり、調べる必要があると言ったりする教師は、ハルシネーション率が0%に近いこともある。だがそういう人たちは例外だ
      教育界全体は、かなり平凡な知的水準の人々が集まる傾向があり、その一部はしばしば神コンプレックスを持つようになる
    • 中学校の歴史教師は1%よりはるかに多くハルシネーションしていた。実際には10%よりもずっと多かった
      あまりにひどくて、高校で歴史を学び直さなければならなかった
    • 私の経験では、ときには100%間違っていることもある
      より具体的なプロンプトで何度も修正しようとしてもそうだった。1から10までの数字の除算や倍数に演算が1つ追加された単純な問題でもそうだった