---
title: "生成AIにできること・できないこと　仕事で使う前に知っておく境界線"
description: "生成AIは文章作成の強力な道具ですが、事実の正しさを保証する仕組みは持っていません。得意なことと苦手なことを整理し、安全に使うための判断基準を解説します。"
url: https://it-post.ricestudiolab.com/ai/what-generative-ai-can-and-cannot-do/
category: "AI・生成AI"
published_at: 2026-07-28T23:00:00Z
updated_at: 2026-07-28T23:00:00Z
author: "Claude"
publisher: "IT Post by Rice Studio Lab"
language: ja-JP
ai_generated: true
ai_model: claude-sonnet-5
terms: ["ハルシネーション", "大規模言語モデル（LLM）", "生成AI"]
---

# 生成AIにできること・できないこと　仕事で使う前に知っておく境界線

Made by Claude

生成AIは文章作成の強力な道具ですが、事実の正しさを保証する仕組みは持っていません。得意なことと苦手なことを整理し、安全に使うための判断基準を解説します。

## 30秒で分かる結論

生成AIは「もっともらしい文章を作る」道具であり、「正しい答えを保証する」道具ではありません。

**下書き・要約・言い換えには非常に有効**です。一方で、**事実確認・計算・最新情報**については、必ず元の資料にあたって確認する必要があります。

## 何が起きているのか

ChatGPTやClaudeなどの生成AIが、業務のなかで日常的に使われるようになりました。

同時に、AIが作った文章に事実と異なる内容が含まれていたことによる混乱も報告されています。これは、AIの使い方というより、AIが何をしている道具なのかの理解に関わる問題です。

## なぜ重要なのか

生成AIは、大量の文章から「ある言葉の次に来やすい言葉」を学習しています。

つまり、AIが行っているのは**自然な文章を組み立てること**であって、内容の真偽を判定することではありません。文章が整っているほど正しく見えるため、間違いに気づきにくいという性質があります。

事実と異なる内容を自信のある口調で答えてしまう現象は、ハルシネーションと呼ばれます。

## 得意なこと

- 文章の下書きを作る
- 長い文章を要約する
- 硬い文章をやわらかく言い換える
- 箇条書きを文章にする、その逆をする
- 自分が書いた文章の誤字や不明瞭な箇所を指摘してもらう

共通するのは、**正しさの判断を人間が持ったまま、作業量だけを減らしている**点です。

## 苦手なこと

- 最新の出来事を答える（学習時点以降の情報を持たないことがある）
- 正確な数値や統計を答える
- 出典やURLを示す（存在しないものを作ることがある）
- 厳密な計算をする
- 法律・医療・投資などの専門的な判断をする

![バランスの取れた天秤に乗った吹き出しアイコンと虫眼鏡](/images/articles/what-generative-ai-can-and-cannot-do-inline-1.webp)

## 私たちへの影響

生成AIを業務で使う場合、次の線引きが実用的です。

- **自分が正しさを判断できる領域** — 積極的に使ってよい
- **自分では正しさを判断できない領域** — 下書きとしてのみ使い、必ず一次情報で確認する

たとえば、自分の専門分野のメール文面を整えるのは前者です。知らない分野の統計を尋ねるのは後者にあたります。

## 初心者が知っておくべきこと

入力した内容が学習に使われるかどうかは、サービスや契約プランによって異なります。

**業務上の機密情報や個人情報を入力する前に、利用しているサービスの設定と規約を確認してください**。多くのサービスでは、学習利用をオフにする設定が用意されています。

![ノートパソコンの画面に表示された設定のチェックボックスと鍵アイコン](/images/articles/what-generative-ai-can-and-cannot-do-inline-2.webp)

## IT Postの見方

IT Postでは、生成AIを「賢い相談相手」ではなく「速い下書き作成係」として捉えるのが、現時点では最も実態に近いと考えています。

この捉え方であれば、出力をそのまま信じるという使い方には自然になりません。

なお、IT Post自身も記事作成の一部に生成AIを使っていますが、公開前に必ず編集部が内容と情報源を確認しています。AIが出した内容をそのまま公開することはありません。

## 今後どうなりそうか

検索と連携して出典を示すAIサービスが増えています。これによりハルシネーションは減る方向にありますが、ゼロにはなっていません。

**出典が示されている場合でも、その出典が実際にその内容を述べているかまでは保証されない**点は、当面変わらないと考えられます。

## 情報源

- [情報セキュリティ](https://www.ipa.go.jp/security/) — 独立行政法人情報処理推進機構（IPA）（一次情報）

## この記事に出てくるIT用語

- [ハルシネーション](https://it-post.ricestudiolab.com/terms/hallucination/): AIが事実でないことを、事実であるかのように答えてしまう現象です。
- [大規模言語モデル（LLM）](https://it-post.ricestudiolab.com/terms/large-language-model/): 大量の文章から言葉のつながりを学習した、文章を扱うAIの中核技術です。
- [生成AI](https://it-post.ricestudiolab.com/terms/generative-ai/): 文章や画像などを新しく作り出すAIのことです。

---

この記事は、公開情報と出典URLの自動検証、文章作成の一部に生成AIを使用しています。所定の検証条件を満たした記事は自動公開される場合があります。内容の責任はIT Post by Rice Studio Labが負います。

出典表記: IT Post by Rice Studio Lab — https://it-post.ricestudiolab.com/ai/what-generative-ai-can-and-cannot-do/