AI でできること、できないこと ── ChatGPT や Gemini を使う前に知っておきたい判断軸

「ChatGPT や Gemini を使ってみたいけれど、何が安全で、何が危ないのか分からない」── そう感じたことはないでしょうか。

理由は、はっきりしています。AI は「自分にできないこと」を口に出して教えてくれません。だから境界線が見えない。見えないから、怖くて使い始めにくい。

この記事は、その境界線を引くためのものです。境界線は、AI の仕組みそのものから引けます。最新機能の名前を覚えなくても、仕組みさえ分かれば、半年後に新しいツールが出ても自分で判断できるようになります。

---

1. 「AI を使ってみよう」と思っても、何から始めたらいい？

AI の研修を担当していると、受講者のほぼ全員が同じところで立ち止まります。「何に使えばいいか分からない」という訴えです。使い方の問題ではなく、どこまで任せていいかの地図がないことが、本当の詰まりどころです。

ChatGPT や Gemini を開いてみると、たしかに何でも答えてくれます。文章は書けます。質問にも答えます。図も作ります。すごい。けれど、すごすぎて、どこまで任せていいか、その感覚がつかめない。

その地図を、この記事で引きます。

---

2. 「文章を扱う AI」の仕組みを、1 行で

ChatGPT、Claude、Gemini ── 日常や仕事で AI を使うときに最初に触ることになるのは、ほとんどがこの種類です。文章を入れて、文章で答えが返ってくる AI。業界では LLM（文章で答える AI の仕組みの総称）と呼びます。「大量の文章を学んで、言葉のクセを身につけた AI の仕組み」と覚えていただければ十分です。

ここで、LLM の中心的な動作を 1 行だけ覚えてください。

次に来る単語を予測する。

LLM は、大量の文章を読んで「ある単語の次には、どんな単語が続きやすいか」を学びました。会話の途中までを見せると、続く単語を確率の高い候補からランダムに選ぶ ── これを文章の終わりまで繰り返しているだけです。

たとえば「今日は天気が」と入力すると、LLM の中では「いい」「悪い」「下り坂」のような候補に確率の点数が付きます。点数の高いものから、ある幅でランダムに 1 つ選びます。毎回まったく同じ単語を選ぶわけではないので、同じ質問を何度してもまったく同じ答えにはなりません。

この仕組みで、文章の作成、要約、翻訳、議事録のまとめ、プログラムを書くこと ── ニュースで紹介される機能のほとんどが動いています。

本記事のスコープについて：画像を作る AI（Midjourney や Stable Diffusion など）や、リアルな声で話す AI は、文章を扱う LLM とは別の仕組みで動いています。本記事はこれらには立ち入らず、文章を扱う AI（LLM）に絞って話を進めます。

仕組みをもっと詳しく知りたい方は、別記事の「LLM の仕組み ── 同じ問いに違う答えが返ってくる、その理由」を参照してください。

---

3. 仕組みは 1 つ、頼める仕事は 6 つ

「次に来る単語を予測する」── このたった 1 つの動作で、AI は人間から見ると 6 種類のまったく違う仕事をこなします。仕組みは変わらないのに、なぜ 6 種類に見えるのか。頼み方の動詞が違うからです。

ツールの名前は変わります。けれど、人間が AI に「何をしてほしいか」という動詞は変わりません。この 6 つを覚えておくと、半年後に新しいツールが出てきても、「これはどの頼み方か」と自分で判断できるようになります。

3-1. 書く・直す

「メールを書いてほしい」「この文章を丁寧にしてほしい」── ゼロから書く（書く）か、手元の文章を整える（直す）かの頼み方です。自分が書いた荒削りな文章を「短く」「丁寧に」「別の相手向けに」と条件を付けて直してもらうことも含まれます。AI が 下書き担当の事務員 のような役回りをしてくれる、と思っていただければ近いです。

3-2. 聞き出す

「企画の方向性を整理したい」「何から手をつけるか迷っている」── 答えを出してもらうのではなく、頭の中にある考えを引き出してもらう頼み方です。「壁打ち」── 壁にボールを投げてはね返ってくるように、自分の考えをぶつけて返事を受け取る ── とも呼ばれます。AI に答えを「教えてもらう」ではなく、AI の問いかけを足場に自分の考えを整理する、という使い方です。

3-3. 読む

「この PDF の要点を教えてほしい」「契約書から自分に関わる部分だけ抜いてほしい」── 渡した文章の中から必要な情報を取り出してもらう頼み方です。要約（短くまとめる）・抽出（必要な部分だけ抜く）・分類（カテゴリーに分ける）── どれも「渡した文章を読んで、必要な部分を返してもらう」という同じ動きです。

3-4. 訳す

「英語のマニュアルを日本語にしてほしい」「会議の走り書きをメールの形にしてほしい」── ある形式の文章を、別の形式に変換してもらう頼み方です。外国語の翻訳はもちろん、「メモ → 正式なメール」「議事録 → 誰が・いつまでに・何をするかのリスト」のような形式変換も含まれます。変換後はもとの文と照らして確認してください。AI がもとにない情報を「埋めて」しまうことがあります。

3-5. 調べる

「この用語はどういう意味か」「社内規定のどこに書いてあるか」── 質問を投げて答えを返してもらう頼み方です。ウェブを検索したり、手元の文書を読み込ませたりして答えさせることもできます。ただし、AI は正しい答えを「知っている」のではなく、正しそうな答えを「組み立てる」仕組みです。この性質については、すぐ次の「できないこと」の章で詳しく扱います。

3-6. 作る

「この数字を自動で集計したい」「説明資料に使う図を作りたい」「業務手順を一覧表にまとめたい」── 文章ではなく、何かを「作ってもらう」頼み方です。Excel の関数やプログラムのコードだけでなく、スライドに貼れる図解・業務フローの一覧表・簡単なチェックリストのひな型なども含まれます。日本語で「こういうものが欲しい」と説明するだけで、最初の試作が返ってきます。

---

6 つの型のどれが自分の仕事に当てはまるかは、職種や立場によって変わります。「自分の仕事のどこに当てはめるか」の具体的な手順は、別記事「AI 活用の見つけ方 ── ニュースの事例を、自分の仕事に翻訳する 6 つの型」で詳しく扱っています。

この 6 つの型は、どれも「次に来る単語を予測する」という同じ仕組みから生まれています。だから「調べる」型で便利に使えても、「正しい保証はない」という性質はどの型でも共通です。できることの地図が見えたら、次はできないことの地図を引きます。

---

4. 「できないこと」を、4 つの種類に分ける

「AI のできないこと」と聞くと、ひとくくりに「AI には限界がある」と理解されがちです。でも、できないことには、性質の違う 4 つの種類があります：

1. 仕組みそのものから、消えないもの
2. 訓練のしかたで、減らせるもの
3. 拡張ツールで、補えるもの
4. 仕組みの話ではなく、社会のルールの話

混同すると、AI の進化の見方を間違えます。半年で新しいツールが出ても、絶対に消えないのはどこか ── ここを区別できると、長く使える地図になります。

4-1. 仕組みそのものから、消えないもの

LLM が選ぶのは「次に来そうな単語」で、「正しい単語」ではありません。

確率が高そうだから選んでいるだけで、その内容が事実かどうかを、AI は確かめていません。だから、いかにも本当らしい文章で、堂々と嘘をつきます。これを業界では ハルシネーション と呼びます。直訳すると「幻覚」です。

存在しない論文を引用してくる、行ったことのない場所の住所を作る、知らない人物の経歴を捏造する。どれも「次に来そうな単語」を確率に従って並べた結果、それらしいけれど事実ではないものが出てきます。

これだけは、仕組みが「次に来る単語を予測する」である限り、 ゼロにはなりません。後で見るように、訓練を工夫したり、検索ツールを足したりすることで減らすことはできます。けれど、完全には消せない性質です。

ハルシネーションをもっと詳しく知りたい方は、別記事「ハルシネーション ── AI に「本当」の感覚が無い、という話」で扱っています。

4-2. 訓練のしかたで、減らせるもの

人間なら「すみません、これは分からないです」と答える場面でも、AI は何かしらの単語を返してしまう癖があります。沈黙ができない癖、と呼んでおきます。

これは、テストで分からない問題が出ても、白紙より何か書いておこうとする生徒のような癖です。「次に来そうな単語」を確率で選ぶ仕組みだけだと、「分からない」だけ返して終わる、という選択肢が選びにくい。

ただし、この癖は「仕組みそのものから消えない限界」ではありません。AI を訓練する人たちが、「不確かなのに自信ありげに答えたら減点」「分からないと言ったら加点」というルールで仕込みます。すると、徐々に「分からない」と言えるようになります。

実際、2024 年以降のモデルはこの方向で改善が進んでいます。各社がリリースノートで断り方の改善を報告しています。

つまり、今は苦手だけれど、訓練の進化で少しずつマシになっていく性質、というのがこの種類です。 「仕組みから消えない」と「今は苦手」は、別の話 として区別してください。

4-3. 拡張ツールで、補えるもの

仕組みとしては解決しないけれど、AI に道具を持たせれば実用上は補えるもの ── というのが第 3 の種類です。新人社員に電卓やスマホを渡すようなイメージです。

代表的なものを 4 つ挙げます。

学習が打ち切られた日より後のことを知らない

LLM は、ある日（だいたい半年〜2 年前のどこか）までの文章を読んで、その文章のクセから「次に来そうな単語」を学びました。学習の打ち切り日（ナレッジカットオフ）以降の出来事は、世界に存在しないものとして扱われます。

これは、ウェブを検索する道具を渡せば補えます。AI が自分で検索して最新情報を取りに行ってから答える、という仕組みが、ChatGPT・Claude・Gemini のどれにも搭載されています。

計算が苦手

「次に来そうな単語」を選ぶ仕組みは、数字に弱いです。「3,847 × 92」のような計算は、確率で当てるには無理があります。

これは、AI に小さな計算プログラムを書かせて、それを実行させることで補えます。AI が自分で電卓代わりのプログラムを書いて、結果だけ受け取って答える、という流れです。

文字だけでは届かない（パソコンや外のサービスを操作する）

メールの送信、カレンダーへの予約登録、ファイルの整理 ── これらは「文字を書く」だけでは終わらない仕事です。

「来週の打ち合わせの予定を入れておいて」と頼むと、AI が自分でカレンダーアプリを開いて入力する ── という使い方が、すでに実用化されています。AI が外のサービスを操作する仕組みも登場しており、単なる「文章を書く道具」を超えつつあります。

ただし、これも §4-1 で挙げた「真偽を確かめない」という根本は変わりません。操作を間違えた場合の確認は、人間が引き受ける必要があります。

その人の文脈を覚えていない

LLM は、世界中の文章から学んでいるので、一般的な平均に近い答えを返します。あなた個人の事情は知りません。

これは、過去の会話を覚える機能や、メールやドキュメントを読む権限を AI に渡せば、ある程度補えます。あなたのよく書く文章のクセや、社内文書の言葉づかいを踏まえた答えが返るようになります。

---

ここで覚えておくべきことがあります。道具がいくら増えても、§4-1 で挙げた「真偽を確かめない」だけは消えません。

検索する道具を持たせても、検索結果から「次に来そうな単語」を選ぶときに、やはり嘘が混じる可能性があります。プログラムを書かせても、書いたプログラム自体が間違っている可能性があります。

道具は便利な拡張です。けれど、仕組みの限界そのものを超えるものではありません。ここを混同すると、AI を過信して痛い目に遭います。

だから、道具で補える範囲をどこまで AI に任せるかは、次の「社会のルール」とセットで決めることになります。

4-4. 仕組みの話ではなく、社会のルールの話

最後の種類は、技術ではなく社会の取り決めの話です。

最終的な責任を取る立場ではない

AI には、人や会社のような法的な立場がありません。間違ったことを言って誰かが損をしても、AI 自身は責任を負えません。責任を持つのは、AI を使った人間か、その AI を提供した会社です。

だから、お金、健康、契約、採用、住居 ── 誰かの人生を左右する 最終判断を、AI 単体に任せてはいけません。これは AI が賢くなっても変わりません。技術ではなく、社会の取り決めが背景にあるからです。

背景には、3 つの取り決めがあります。1 つめは法律（医師法や弁護士法のように「資格を持った人でないと特定の助言をしてはいけない」という決まり）。2 つめは AI を提供する会社の利用規約。3 つめは業界ごとのガイドライン。これらが重なって、AI 任せにできない領域を作っています。

個人の事情に踏み込む判断は、人間の専門家の領域

あなたの体質、あなたの会社の事情、住んでいる地域のルール、家族の状況。こうした個別の事情に沿った判断は、有資格の専門家（医師・弁護士・税理士など）の領域です。

AI は、その下準備（資料の要約、用語の解説、選択肢の整理）までは強力に支えられます。けれど、最後の決定は、人間の専門家の役目です。AI を作っている会社（OpenAI や Anthropic など）の利用規約でも、これは明確に定められています。

身近な例を一つ挙げると、会議の議事録を AI に要約させて、そのまま社外に共有するケースがあります。議事録には顧客名や社内の判断根拠が含まれることも多いので、送信前に「個人名や社外秘の情報が含まれていないか」を人間が一度確認する、という手順が必要です。AI に要約させるところまでは問題ない。送るかどうかを判断するのは人間、というのがこのルールの実際の使い方です。

ここまでの 4 種類を、技術と社会の軸で整理し直すと、半年後の見え方の違いがはっきりします。

挙動が半年後も変わらないのは ① と ④ だけ。② と ③ は半年〜1 年単位で改善されたり、道具で補えたりします。AI の進化を追いかけるときは、「変わらない側」と「変わりうる側」を見分けるのが効率的な見方になります。

---

5. 仕事の場面で、任せていいこと／任せてはいけないこと

場面が変わっても判断軸は 1 つ。下準備、たたき台、調べ物、要約、分類までは任せる。最終決定と最終責任は人間が引き取る。 やってはいけない理由は、すべて §4-4（社会のルール）から来ています。

日常の仕事に当てはめると、こんな形になります。メール返信なら、下書きを AI に作ってもらって、送るかどうか・文面の最終確認は自分がする。議事録の要約なら、まとめるところは AI に任せて、共有前に個人名や社外秘の情報が混じっていないかを人間が確認する。見積もりの作成なら、過去のデータを整理したり計算のたたき台を出したりするのは AI に頼める。ただし金額の最終確認と承認は人間がする。どの場面も「AI が仕上げる → 人間が確認・判断する」の流れは変わりません。たとえば今日から試すなら、「明日の会議のメモを貼り付けて、決定事項だけ 3 行にまとめてほしい」と頼んでみるのが、一番手軽な入口です。

病気・健康：症状や薬の用量の最終判断は医師の領域。AI には、病院に行く前に症状を時系列でまとめてもらう・一般的な健康習慣を調べてもらう、まではできる。

採用・人事：合否は人の人生を左右する最終決定なので、AI 単独に任せない。AI が学んだ過去のデータには過去の偏見が含まれており、性別や年齢で差別する答えを出す事例も実際に起きている。AI には面接の質問のたたき台・応募書類の要約を頼む。合否は人間が決める。

法律・契約・お金・投資も同じ軸が通る。弁護士や金融のプロの判断が要る領域では、AI は下調べと資料整理まで。最後の決定は専門家か本人が下す。

---

研修でこんな場面に出くわしたことがあります。受講者の方から「複数のサービスをつなぐ仕組みを、AI に全部作ってもらえないか」という相談を受けました。気持ちはよく分かります。AI が何でもできるように見えるからこそ、「全部任せたい」と思うのは自然な発想です。ただ、一つひとつ整理すると、そもそものデータの持ち方から見直さないと話が前に進まないことが分かりました。手間とコストを計算すると、AI に作らせるより先に、仕事の流れそのものを整理する方が筋がよかった。「AI に任せる」に踏み込む前に、「そもそも何をどう持つか」を問い直す場面が、現場には意外なほど多いのです。

---

6. 何から始めればいい？

まず 1 本だけ選ぶなら、「ハルシネーション ── AI に「本当」の感覚が無い、という話」です。「AI が嘘をつく」という本記事の §4-1 が理解できると、「どこまで信用していいか」の感覚が一段つかみやすくなります。

---

仕組みをもっと詳しく知りたい方へ

本記事の §2 で「次に来る単語を予測する」と言いましたが、そのもっと詳しい話を「LLM の仕組み ── 同じ問いに違う答えが返ってくる、その理由」で解説しています。なぜそれだけで会話が成立するのか、推論モデルが内部で何をしているのか、踏み込んで知りたい方向けです。

嘘をつく性質を、もっと詳しく

§4-1 で触れたハルシネーションについては、別記事「ハルシネーション ── AI に「本当」の感覚が無い、という話」で深掘りしています。

AI への頼み方の基本

「やっていい」とした仕事を AI にうまく頼むコツ ── つまり指示の書き方全般 ── は、別記事「『欲しい答え』が返ってくる聞き方 ── プロンプト 5 つの型」で扱います。下準備、たたき台、要約、分類 ── 何を頼むときにも効きます。

サービスごとの違いを知りたい方へ

ChatGPT・Claude・Gemini のどれを使うべきか、という選び方の話は、別記事「コンビニ・職人・科学者 ── ChatGPT・Claude・Gemini はなぜ違うのか」で整理しています。

AI と機械学習・生成 AI の関係

ニュースで聞く「AI」「機械学習」「生成 AI」「LLM」── これらの言葉の関係を入れ子で整理した別記事「AI・機械学習・深層学習・生成 AI ── 入れ子で見ると、ニュースが読める」も、本記事と並べて読むと位置付けが見えやすくなります。

AI 時代に人間に残る役割

本記事の §4-4 で扱った「最終責任は人間が引き取る」という軸をさらに掘り下げた整理が、AI が普及した先に、人間に残っている役割とは にあります。「責任を負う」「感情でつながる」という 2 軸で、AI が担う部分と人間が担う部分を仕分ける役割論の地図です。

業務での本格活用

会社の業務に AI を本格的に組み込む話は、有料記事「仕事に AI を組み込む手順書」（現在準備中）でまとめています。本記事の §3〜§5 が、そのまま判断の足場になります。

---

最初の一歩としては、最終決定が要らない小さなもの ── たたき台、要約、調べ物など ── を 1 つだけ AI に頼んでみること。「これは任せられる」「これは自分でやったほうがいい」の感覚は、一度試せば、すぐつかめます。

仕組みが分かれば、地図ができる。地図があれば、迷わない。

半年後に新しいツールが出ても、判断軸は変わりません。「ハルシネーションはゼロにならない」「最終決定は人間が引き取る」── この 2 本だけ頭に残っていれば、どんな新機能の紹介記事を読んでも「これは自分に任せられる部分か」が自分で見極められます。AI の進化を追いかけるのは楽しいことですが、追いかけなくても取り残されない判断軸が、この記事で渡したものです。

この記事が、AI と長く付き合うための最初の足場になれば。