--- area: "work-career" category: ai-ml companies_orgs: - YouTube - OpenAI date: '2025-12-20' draft: true guest: '' insight: '' layout: post.njk people: - Carl products_models: - ChatGPT - Gemini project: [] series: '' source: https://www.youtube.com/watch?v=l8yvsHFbzMI speaker: Internet of Bugs status: evergreen summary: 本视频讲述了作者Carl在YouTube上被一个声称提供指导的团体骗取10,000美元的经历。该团体利用AI（特别是ChatGPT）生成内容并将其包装成有价值的服务出售。作者详细阐述了AI如何模糊产品质量信号、影响信任，并提供了四个步骤来帮助观众识别和避免此类AI诈骗，强调了透明度和直接沟通的重要性。 tags: - geopolitical - llm title: 警惕AI诈骗：我如何被YouTube教练骗取万元，以及如何避免 --- ### 遭遇AI诈骗 我被一个在**YouTube**上运作的团体骗取了大约10,000美元，并浪费了几个月的时间。更糟糕的是，他们利用**AI**（Artificial Intelligence: 人工智能）来做到这一点，具体细节稍后详述。请不要关闭视频，这不是募捐，也没有GoFundMe。我很好，我的频道刚刚突破了10万订阅者，感谢各位订阅者，我会尽力不辜负你们的时间。总的来说，对我而言，一切都还好。为了避免引起YouTube上的戏剧性纠纷，我不会在这期视频中点名具体的团体。**本视频旨在帮助大家识别这类骗局，并教授如何避免它们，无论哪个团体试图欺骗你。**这是一种我以前从未想过的骗局，尽管事后看来，它显而易见。我确信这种骗局会越来越普遍，而且很难防御或检测。虽然对我已经发生的事情已无能为力，但我至少可以告诉你们我的经历，希望你们能避免重蹈覆辙，这样我的经历也能产生一些积极的意义。稍后我会详细讲述具体发生了什么，并提供一些保护自己的建议，以及探讨更广泛的社会影响。但首先，为了让你们决定是否继续观看，我先给你们一个简短的版本。 ### 诈骗核心模式 在YouTube上，以及我确信的其他地方，有些人正在销售信息、指导或课程，但实际上他们只是收取数百甚至数千美元，然后运行**ChatGPT**（由**OpenAI**开发的生成式人工智能模型），并将输出当作有价值的内容转售。在我看来，有三种可能性：第一种：**ChatGPT**的输出对你的目的完全无用，那么你就是为无用的信息付费，被骗了。第二种：**ChatGPT**的输出对你的用例有效，那么你应该自己去问**ChatGPT**，省下这笔钱。第三种：你正在进行一个极其重要的项目，无法承担任何错误或延误，因此值得支付费用给一个拥有领域专业知识的团队，让他们充当**AI**与你之间的桥梁，确保输出符合你的要求。例如，如果你不懂编写安全代码，并且打算让**ChatGPT**生成一个应用程序，那么支付费用给某人来确保代码在上线前没有安全问题，避免被黑客攻击，可能是值得的。在这种情况下，我认为开发者有责任向你披露他们使用了**ChatGPT**，以及交付成果中有哪些部分是他们自己完成的，哪些部分是**ChatGPT**生成的。**我坚信，任何供应商都不能不披露其AI使用情况。**如果他们隐藏了这一点，并且像我一样，直到为时已晚才发现，那么你很可能也会像我一样，遭遇严重的后果。 ### 个人经历揭秘 这里是**Internet of Bugs**（Bug互联网）。我叫**Carl**，自20世纪80年代以来一直是软件专业人士。我正努力让互联网变得更安全、更可靠、更少出现bug，而最近这很大程度上意味着要抵制并警示**AI**的危险。那么，我身上到底发生了什么呢？我一直在努力为软件开发者创建一个在线课程和社区，帮助他们学习如何创建自己的**SaaS**（Software-as-a-Service: 软件即服务）业务，并在此过程中掌握许多难以获得的技能。多年来，我做了大量的企业培训，所以我对教学、制定课程大纲等都很熟悉，当然，我也花了数十年时间构建和经营软件业务，所以我知道课程中应该包含哪些信息。但我对这方面的业务运作完全没有经验。我不知道如何通过互联网交付这样的课程，如何确定合理的范围，如何定价，课程需要什么样的社区，如何最好地托管和管理社区，以及我可能不知道的其他最佳实践。我认为学习这些的最佳方式就是自己参加一个在线课程。于是，我找到并报名了一个关于如何将职业经验打包成在线教育业务的课程。我预付了大量资金，然后才意识到他们对如何做这件事的了解，和我一样少。是的，好吧，糟糕。现在，在浪费了几个月的时间和数千美元之后，我非常后悔与他们合作，但事后诸葛亮总是容易的。 ### AI侵蚀信任 我确信欺骗我的那个团体并非唯一如此做的，我预计随着时间的推移，在线课程领域，甚至可能在许多其他领域，都会有越来越多的人进行这种诈骗。因此，我不会仅仅告诉你避开某个特定的频道，而是教你如何尽可能地识别这种骗局，希望能保护你，不仅免受他们的侵害，也免受其他做类似事情的人的侵害。我之所以这么做，是因为那个骗了我钱的团体的核心教学内容之一，就是如何利用**AI**去欺骗别人。当然，他们不会那样说。他们谈论的是‘如何轻松地利用**AI**创办自己的指导业务’，但其效果就是教人们如何将**ChatGPT**的输出以数千美元的价格出售。那个团体不仅是骗局，可以说就是一个‘诈骗工厂’。现在，让我稍微拉开视角。我们来谈谈大局，然后我会更深入地探讨我的经历细节，以及我建议你们可以如何做得不同。**AI**开始给我们所有人带来一个我们很少谈论的巨大问题：它正在干扰我们依赖过往经验和直觉来判断某事物投入的努力或质量的能力。在过去的几年里，通过观察产品的呈现质量——布局、结构、格式——来评估产品或服务的质量，曾是一种不错的捷径。这就像是‘以貌取人’，或者说‘以封面判断书本’。这种关于质量的信号丢失并非首次发生。曾经，你可能很难相信，我们可以通过视频游戏的画面好坏来大致判断它的质量，因为那些在呈现上投入最多的游戏，通常在整体上也投入了最多的努力。然后发生了两件事：首先，游戏公司开始意识到，只要画面足够漂亮，他们就可以在其他方面偷工减料，仍然能盈利。其次，像虚幻引擎这样的第三方游戏引擎变得司空见惯，导致所有游戏看起来都差不多，无论质量如何。结果是，如今许多画面最漂亮的游戏质量平平甚至更差，而许多最优秀的游戏根本不需要高端图形硬件。我们因此失去了通过预告片或试玩来评估游戏可能有多好的能力。**AI**正在给我们在网上购买和订阅的东西带来同样的问题，而且我预计情况会越来越糟。我们将越来越难以分辨网上看到的东西，是由一个关心客户和声誉的优质组织生产的，还是仅仅拥有一个华丽但由**AI**生成的外部，而内部缺乏深度、可靠性或质量。同样的问题也是当前影响就业市场的一大难题。当每份简历看起来都一样，每封求职信也看起来都一样时，就破坏了多年来简历筛选的方式。**AI**也使判断期刊文章投稿、虚假产品评论以及虚假新闻的真实性变得复杂化。下面有一些相关的论文链接。**AI**生成的内容乍一看似乎非常合理，甚至是经过充分研究且高质量的。但实际上，其背后缺乏严谨性，而且正如许多律师发现的那样，生成内容所依据的事实或研究根本就不存在。然而，当这些内容被提供给我们时，我们很难判断该文档的上下文与现实之间是否存在任何关联。对于那些希望从互联网上获取信息并愿意为此付费的人来说，这是一个问题。我不知道有什么好方法可以快速判断提供给你的信息或教育材料是否仅仅是**ChatGPT**的输出。**AI**检测服务以不可靠而闻名，但说实话，当你拿到材料并有机会查看时，很可能已经太晚了，因为你已经付了钱。 ### 识别AI界限 那么，我们来谈谈如何避免像我一样的遭遇。第一步，避免被骗取费用让别人为你**prompt ChatGPT**（提示**ChatGPT**），就是你自己决定在你的情况下，‘被骗’意味着什么。具体来说，就是决定你认为哪些事情适合使用**AI**，哪些不适合。如果你愿意花数千美元让别人为你**prompt ChatGPT**，我不会说你是错的。这可能对你来说是值得的，你可能不认为这是欺骗，那也很好，随你便。另一方面，你可能认为任何**AI**的使用都是不恰当的，如果是这样，你就能更容易地决定不想和谁做生意，尽管如今完全不使用**AI**的人越来越少。我的建议是借鉴初创公司的经验，决定什么算作核心业务或竞争优势，什么不算。在商业世界，尤其是在初创公司，有些事情公司需要自己内部完成，有些则鼓励外包。例如，如今许多小企业将福利和薪资等职能外包，因为对大多数企业来说，做好薪资管理并不能让他们更赚钱或更有可能成功。另一方面，如果某个职能如果做得好，有可能让公司更成功，那么他们应该将其保留在内部并尽力做好。同样，如果你在决定是否与某人做生意时，他们为与你提供的服务无关的事情使用**AI**，可能对你来说根本不重要，至少对我来说不重要。例如，如果我要付钱给一家公司教我如何使用一种新的**AI**驱动的编程工具，而该公司使用**AI**来设计他们的网站、创建营销文案或社交媒体帖子中的图片，这对我来说完全没问题。但如果同一家公司使用**ChatGPT**来创建他们卖给我的课程内容，那我就会觉得被骗了，而且我认为我的感受是正当的。再举个例子，我不会使用**AI**来写我的视频脚本或为我的频道视频提供创意。我曾看过**AI**为视频主题提供的建议，它们比无用还糟糕，因为我只基于我对事实和现实的最佳理解来制作视频，我希望如果我开始基于**LLM**（Large Language Model: 大型语言模型）的幻觉来制作视频，你们一定会感到不满，而且理所当然。同样，如果你想要的是像我频道上那些由**AI**制作、毫无内涵的视频，你完全可以自己去问**ChatGPT**，不需要我。另一方面，我确实会为这个频道的一些事情使用**AI**。最近，在我上传新视频后，我开始将字幕交给**Gemini**，然后询问应该为视频添加哪些标签和关键词，因为否则我只能凭空猜测。此外，过去几个月，我在上传每个新视频到**YouTube**之前，都会付费给一个服务来处理和清理最终的音频，我相当确定该服务使用了**AI**。我猜你们观看我的视频并不是因为我用我那受损的听力来尝试清理音频，那些从我还在用旧的受损听力编辑音频时就一直观看我内容的观众，我向你们致以诚挚的慰问。 ### 深入背景调查 总之，回到我被骗的经历。在把钱交给那个骗子团体之前，我根本没考虑过**AI**。因为他们在**YouTube**上有很长的历史，可以追溯到**ChatGPT**出现之前，所以我认为他们销售的东西也早于**ChatGPT**。事实证明我错了，但以此为鉴吧，即使是那些比当前**AI**热潮更早存在的成熟企业，也开始加入这场‘浑水摸鱼’的行列。所以，第二步：在你决定了你认为在付费对象身上哪些**AI**的使用是不可接受之后，就是进行一些研究。查看他们的网站、营销材料、他们用电子邮件换取的免费赠品，以及观看他们的**YouTube**视频。如果你看到提到**AI**，这可能是一个不好的迹象（当然，除非教授**AI**是他们的核心业务，那样情况会更复杂）。此外，如果他们有足够长的历史记录，可以看看他们2022年之后和近期的材料与2022年之前的材料相比如何。据我所知，那个骗了我钱的团体几年前开始时，只是另一个‘如何增长社交媒体受众’的频道。在2022年之前，他们曾零星提到过创建在线课程，但数量很少。然后在2022年末，也就是**ChatGPT**发布的同一年，他们的内容开始越来越多地提及创建在线课程，直到几乎所有内容都围绕这个话题。我不知道这是否是因为**ChatGPT**，但似乎有可能，而且这可能是我应该更加注意的事情。那个团体关于‘如何利用社交媒体销售东西’的内容，即在线课程，看起来是合法的，但这并不是我需要知道的。关于‘如何构建课程’，以及更重要的‘如何确保你构建的课程能为学生提供价值’的内容，即使那个团体有所提及，也只是**ChatGPT**那种含糊不清的废话。稍后会详细说明。 ### 直接质询求证 所以，第三步：假设你在查看他们的在线信息时，没有发现任何迹象表明他们只是在销售聊天机器人输出，那么就直接询问。我知道询问会让人不舒服，但他们不太可能主动提供这些信息。首先询问他们是否有**AI**政策或常见问题解答（FAQ）。询问他们是否使用**AI**来生成你正在购买的产品或服务，如果没有，询问他们是否计划将**AI**添加到他们的产品中，并要求书面承诺。最后一部分很重要。让我告诉你更多关于我发生的事情。我今年早些时候（如果你们晚些时候观看，那就是2025年）报名了这项服务。起初，我没有迹象表明他们在转售**AI**。在一些课程中，有一些文本听起来有点像**AI**生成的。所以我开始有点怀疑，然后我开始使用他们的流程来获取个性化的建议和帮助。他们服务的一部分，也是我最需要的部分，是为每个付费学员提供定制计划，让他们在回答几个问题后，获得根据其具体情况量身定制的步骤说明。你还有机会获得几个不同的定制计划，以便进行比较和决策。这种定制化是我当时最大的卖点，但结果却只是包装起来的聊天机器人垃圾。我与其他一些和我一样付费上课的学生进行了一对一交流。我们发现，通过获取第二个计划，仅仅通过改写我们用于第一个计划的答案，我们就会得到截然不同的建议，以及完全不同的定价指导。其他核心信息也会有所不同。我明确询问他们这些个人报告中的信息来自哪里，被告知这是‘他们多年经验提炼出的流程结果’之类的废话，他们刻意回避承认这只是**AI**。如果这还不够糟糕，在我参加该计划大约六个月后，尽管他们当初的卖点之一是‘终身访问’我的课程，但我报名参加的课程却被取消了。取代它的新计划，被他们视为我‘终身访问’的延续，内容却大大受限，而且更明显地充满了**AI**垃圾。如果我想要完整的套餐，就必须永远每月额外支付600美元。事实上，他们甚至不再隐藏了。他们开始将使用**AI**作为卖点来宣传。我想这可能对某些人来说是个卖点，但希望如果你在看我的频道，现在应该知道得更清楚了。对我来说不幸的是，他们已经拿到了我的钱，而且他们从未明确表示不会使用**AI**来创建我购买的内容，而我也没有想到去问。我没有借口说我没想到去问，但我确实没问，并为此付出了代价。所以，不要犯我的错误。 ### 审查退款政策 然后，第四步是弄清楚他们的退款政策是什么，或者如何在发现他们以未披露的方式使用**AI**时取消未来的付款。他们很可能会对此犹豫不决，作为服务提供者我能理解，但如果他们坚持你无法拿回钱，即使他们违反了他们声明的**AI**政策，那么这可能表明他们并不那么值得信赖。然后，一旦你获得了从第一步到第四步的信息，你 hopefully 就有了足够的信息来做出决定。我强烈建议你不要注册任何拒绝承诺不将**AI**用于其核心业务的服务，但这取决于你。至少如果你问了，你就能在做决定前获得相关信息。 ### 总结与建议 **最重要的事情是，我希望你——以及真的希望每个人——都能思考并询问，你和他们愿意为哪些AI输出付费。**这种意识本身希望能帮助很多人避免像我一样的遭遇。祝你们好运。感谢观看。让我们在外小心谨慎。