ChatGPT 是废话生成器。但它仍然非常有用

ChatGPT 是废话生成器，原因在于它被训练来产出可信文本，而不是保证陈述为真。它能以法律、学术、百科或论坛回答的语气说话，形式越像权威，越容易让人忽略事实核验；Stack Overflow 很快遇到大量看似专业却错误的答案，不得不临时禁止相关生成文本。风险最高的是教育、健康、科学问答和搜索替代，因为用户往往无法立即判断对错。不过这并不意味着大型语言模型没有价值。适合它的任务有三类：用户能轻松验错的场景，比如调试提示和代码解释；真实性不是核心的创作场景，比如小说构思、风格改写和互动故事；训练语料本身包含大量对应事实的场景，比如翻译。即便如此，安全漏洞、偏见输出和错误自信仍需谨慎处理。判断这类工具的关键，不是看几个惊艳案例，而是看错误率在具体用途里是否可承受。