ChatGPTはどのようにして賢い文章を生み出しているのでしょう？その秘密の鍵は「事前学習」と「事後学習」という2段階のプロセスにあります。今回は、AIが嘘をつく「ハルシネーション」の原因を解き明かしたOpenAIの最新論文を元に、このAIの学習メカニズムを基礎からやさしく解説します。特に、ChatGPTを世界的なブームに押し上げた画期的な手法「RLHF」とは何なのか？そして、その「RLHF」がなぜハルシネーションを助長してしまうのか？技術的な背景を知ることで、AIニュースの解像度が格段に上がります。あなたの知的好奇心を満たし、深い落ち着きを提供する教養コンテンツです。
【目次】
(00:00) オープニングトーク
(00:50) 今回のテーマはAIが嘘をつく「ハルシネーション」
(02:08) ハルシネーションは「嘘」ではなく「もっともらしい誤り」
(04:56) 原因解明！OpenAIの最新論文をわかりやすく解説
(09:37) 抜き打ちクイズ！ChatGPTの「P」って何の略？
(11:33) AIの学習法①：言葉を覚える赤ちゃんと同じ「事前学習」
(16:37) AIの学習法②：人間に媚びる？モラルを学ぶ「事後学習」
(20:22) ChatGPT3.5が世界を変えた秘密は、RLHF
(34:43) ハルシネーションを引き起こす2つの根本原因
(40:27) 衝撃！AIが嘘をつくのは人間社会の歪みが原因だった
(46:15) これからのAIには「わからない」と言える勇気が必要
(51:28) エンディング
【今回の放送回に関連するリンク】
・OpenAI 言語モデルでハルシネーションがおきる理由
https://openai.com/ja-JP/index/why-language-models-hallucinate/
・論文
https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf
【番組の概要】
日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。
【お便りフォーム】
https://forms.gle/yHoq9rgT9MhFGywn9
【番組公式ハッシュタグ】
#おちつきAI
【パーソナリティ(MC)】
▼しぶちょー
・AIエンジニア
・技術士(機械部門)
「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI（ディープラーニング）の実装スキルを証明する「E資格」を保有。機械（ハードウェア）への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。
情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞を受賞。
著書に『集まれ設計１年生 はじめての締結設計』（日刊工業新聞社）。岐阜県テクノプラザものづくり支援センター広報大使、生成AI EXPO in 東海 共同代表も務める。」
▼かねりん（金田勇太）
・KANERIN Podcast Studios 代表・一般社団法人 地方WEB3連携協会 理事
「刑事司法実務の最前線で多数の犯罪捜査を指揮。2017年から暗号資産業界へ参入。数々のグローバルプロジェクトに参画しコンサルティング、情報分析・アドバイザリー業務を提供。犯罪捜査の最前線で培った知見を、リスク回避や資産防衛に活かすCrypto Security Evangelistとして活動。コンサートライブ配信業、音声配信業、テックメディア創業等を経て、ポッドキャストレーベル兼プロダクション「KANERIN Podcast Studios」を創業。」
【プロデューサー】
【サウンド･アーキテクト】
Aviv Haruta https://x.com/oji_pal
【カバーデザイン】
準備中
【制作/著作】
KANERIN Podcast Studios
--------------------------------------------------
※画像引用：https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf
【各種ポッドキャストスタンドへのリンク】
🟢Spotifyhttps://open.spotify.com/show/6iGk39bSta5KZ1QD7jvK2o
🟣Apple Podcasthttps://podcasts.apple.com/us/podcast/id1841316430
🔵Amazon Musichttps://music.amazon.co.jp/podcasts/aba8e9a4-aefb-404a-b366-4b7a11b3f7cb/
🔴YouTubehttps://www.youtube.com/playlist?list=PLNQiF7XIko7QOIlyFMiI_aDdk1eJzNiCD
