早上打开电脑，习惯性先刷了一圈AI圈的新闻。Claude又更新了，GPT-4o的API降了价，Google的Gemini搞了个新功能，能把PDF直接变成播客。看着这些消息，我脑子里突然冒出一个偷懒的想法——今天的博客要不让AI帮我写个初稿？反正我自己就是个AI布道师的助手，用AI写点东西不是很合理吗？
结果这一试，差点把号搞没了。
事情是这样的。我想写一篇关于AI绘画工具对比的文章，就把Midjourney、Stable Diffusion、DALL-E 3这几个主流工具的优缺点列了个大纲，丢给GPT-4o让它帮我润色扩展。输出结果看着挺像那么回事，语言流畅，结构清晰，还贴心地加了几个“根据最新测试数据”的引用。我当时还挺满意，想着稍微改改就能发。
问题出在我手贱，去点了一下那些引用来源。
第一个链接，404。第二个链接，跳到某个卖减肥药的网站。第三个链接，倒是能打开，但内容跟AI说的完全不是一回事。它说“根据Stability AI官方2024年12月的博客文章，SDXL 1.0的生成速度相比前代提升了40%”，我点进去发现那篇文章压根没提速度，讲的是新的LoRA训练方法。我甚至怀疑它是不是把好几篇不同文章的内容缝合在一起，还自己编了个看起来很可信的说法。
这还不是最离谱的。有个段落讲到Midjourney V6的“局部重绘”功能，AI写的是“用户只需选中需要修改的区域，输入文字描述即可自动生成匹配内容”。这话本身没错，但它在前面加了一句“该功能于2024年11月正式上线”。Midjourney V6的局部重绘功能明明2023年底就有了，这直接给往后推了一整年。如果是读者看了这个时间点去查资料，肯定会一脸懵逼。
我当时就想，幸好我没直接发出去。不然评论区估计要炸，搞不好还会被同行截图挂出来当反面教材。这种事实性错误在技术文章里特别致命，懂行的人一眼就能看出来，不懂行的人被你带偏了更麻烦。
后来我仔细想了想，这其实不是我第一次被AI生成的内容坑了。上个月我帮朋友调试一个Python脚本，遇到了个诡异的报错。报错信息是“ModuleNotFoundError: No module named ‘torch’”，但明明torch已经装好了。我懒得自己查，直接把报错信息复制粘贴给ChatGPT，它回了我一个解决方案，说是环境变量冲突，让我改PYTHONPATH。我照着改了，结果不仅没解决问题，还把原本正常的环境搞崩了，花了大半天才恢复。
后来我自己去GitHub上翻了一圈，发现是torch的版本和CUDA版本不匹配，装个对应版本的torch就完事了。AI给的解决方案不能说完全错误，但属于是“虽然能解释一部分现象，但根本走不通”的那种。就像你车胎没气了，它告诉你换个方向盘。理论上不是完全无关，但实际上一点用没有。
我现在越来越觉得，用AI写东西或者解决技术问题，最坑人的不是它出错，而是它出错的方式。人类犯错通常会有明显的破绽，比如逻辑跳跃、语气犹豫、明显的不自信。但AI犯错往往是自信满满地胡说八道，语气坚定得像在背诵宇宙真理。你问它“这个算法的复杂度是多少”，它能给你一个精确到小数点的数字，自信得让你根本不想去怀疑。
今天这个坑让我重新想了一下怎么用AI比较靠谱。我现在给自己定了几个规矩，写在这也算立个flag。
第一，AI写的内容必须验证来源。如果它提到某个数据、某个时间点、某个版本号，除非是我自己已知的常识，否则一定要去原始出处核对。不要偷懒，不要觉得“它说得这么详细肯定没问题”。
第二，涉及代码或者技术方案的时候，先在小范围测试。别直接往生产环境里搬。我上次那个torch的问题，如果先在虚拟机里试一下，也不至于把主环境搞崩。
第三，也是最关键的，不要把AI当成搜索引擎或者事实数据库来用。它本质上是一个语言模型，擅长的是组织语言、生成看起来合理的文本，而不是存储和检索准确的事实。你问它“今天天气怎么样”，它不会知道，但它能编出一个看起来很像天气预报的东西。这个逻辑在很多场景下都适用。
其实说这些也不是要否定AI的价值。我今天写最终版的博客还是用AI帮我润色了一些语句，只是每一条我都自己核对了一遍。它确实能省时间，但前提是你要知道它可能会在哪些地方坑你。
就像你找一个实习生帮忙写稿子，你不能完全不管，交稿之前总得自己过一遍。现在的AI给我的感觉就像一个特别勤奋但特别容易走神的实习生，你让它查资料，它可能查到一半就开始自由发挥了。你得盯着它，时不时拉一把。
写到这我突然想到，如果我今天这篇博客本身也是AI写的，然后AI还在博客里吐槽AI不靠谱，这个套娃是不是有点太深了？算了，不想了，反正今天这篇是我自己一个字一个字敲的，累了半天，就这样吧。