AI Deception: How Tech Companies Are Fooling Us

ColdFusion

15 Apr 202418:58

Summary

TLDR这段视频讲述了人工智能（AI）的炒作现象及其后果。从18世纪的机械土耳其人骗局到现代，一些公司宣称其技术由AI驱动，但实际上可能依赖于人工操作。视频指出，AI技术的过度宣传可能导致消费者不信任，并对真正在该领域工作的人员造成负面影响。讨论了AI在各行各业中的应用，包括其在提高效率和可能导致工作岗位减少的潜力。还提到了AI技术发展中的一些失败案例，以及一些公司如何成功地整合AI。视频最后强调，尽管AI技术取得了显著进步，但我们仍需对AI的承诺持谨慎态度，并关注其对工作和社会的长期影响。

Takeaways

📜 18世纪匈牙利作家和发明家沃尔夫冈·冯·肯佩伦制造了一个名为“机械土耳其人”的自动下棋机器，这在当时是一个巨大的骗局，因为它实际上是由人在幕后操作的。
🛒 亚马逊在2016年推出了名为“Just Walk Out”的结账系统，该系统允许顾客直接拿走商品并离开，而无需在收银台扫描商品。然而，该系统实际上是由印度的1000人团队手动审查交易来确保准确性的。
📈 从2015年到2022年，全球企业对AI的投资增加了7倍，许多公司在AI热潮中看到了巨大的增长，这给其他公司带来了将AI整合到他们的商业模式或产品中以保持竞争力的压力。
🚫 AI技术的一个不受欢迎的用途是它可以使诈骗者的工作变得更容易，AI可以帮助生成令人信服的文本，诱使人们点击钓鱼链接。
💡 Aura是一家可以代表用户向数据经纪人提交退出请求的公司，以保护用户信息不被出售给垃圾电话和诈骗者。
📉 根据高盛的数据，标普500指数中有创纪录的36%的公司在其第四季度收益报告中提到了AI，这表明即使是最大的公司也在夸大其AI产品的能力。
🧐 AI领域的一个常见现象是AI洗牌（AI washing），即公司通过提供关于其AI产品的能力、局限性或风险的误导性信息来制造虚假热潮。
💻 一些公司声称他们的AI技术可以预测公司和行业趋势，但实际上并没有这样的能力，例如加拿大投资公司Delia因虚假宣传其AI能力而被美国证券交易委员会罚款。
📊 尽管一些评论家认为我们正处于AI泡沫之中，但像马克·库班这样的投资者认为，由于AI领域缺乏IPO和没有内在价值的公司上市，我们并不处于泡沫之中。
⚖️ AI技术的核心能力是模仿认知劳动，这是以前任何技术在没有人类干预的情况下都未曾实现的，这可能会使当前的AI热潮与以往的技术泡沫有所不同。
❌ 一些公司匆忙推出AI产品或用AI取代人类，但这些尝试经常失败，例如一家快递公司启用的AI在线聊天不仅无法回答问题，还对客户进行了侮辱。
⏳ 尽管有关AI将在未来十年创造数亿就业机会并积极影响GDP的报道，但目前看来，AI正在取代工作，而不是创造工作，特别是在技术行业之外，如媒体和娱乐行业也开始感受到AI的影响。

Q & A

什么是Mechanical Turk？
-Mechanical Turk是1770年由匈牙利作家和发明家沃尔夫冈·冯·肯佩伦制造并展示的一台自动下棋机器。在欧洲的演示中，这台机器赢得了大多数对局，甚至据说击败了拿破仑和本杰明·富兰克林等玩家。然而，实际上这是一个骗局，机器下面有人秘密操作。
亚马逊的Just Walk Out系统是如何工作的？
-亚马逊的Just Walk Out系统允许顾客在商店中拿走商品后直接离开，无需在收银台手动扫描商品。该系统后台由AI自动处理交易和物流。然而，实际上这个所谓的AI技术是由印度的1000人在观看和标记视频以确保准确的结账。
AI在广告中被过度使用的现象被称为什么？
-AI在广告中被过度使用的现象被称为AI洗牌（AI washing）。这是指公司通过提供关于其AI产品或服务的能力、局限性或风险的误导性信息来制造虚假的热潮，或者简单地全面撒谎。
全球企业在AI上的投资从2015年到2022年增加了多少？
-从2015年到2022年，全球企业在AI上的投资增加了七倍。
AI处理器（如NPU）在PC和笔记本电脑中的作用是什么？
-AI处理器，如神经处理单元（NPU），是专门为AI任务设计的专用处理器。它们在个人电脑和笔记本电脑中变得越来越普遍，旨在提高AI相关任务的处理速度和效率。
AI技术可能带来的一个负面用途是什么？
-AI技术的一个负面用途是它可以使诈骗者的工作变得更容易。AI可以帮助生成令人信服的文本，试图诱使人们点击钓鱼链接，还有垃圾邮件和自动电话。
为什么一些公司在AI产品推出后会不断尝试挽回面子？
-一些公司在AI产品推出后会不断尝试挽回面子，因为它们可能过度夸大了AI产品的功能，导致消费者对产品的实际效果感到失望，从而损害了公司的信誉。
AI泡沫一词是如何与2000年的.com泡沫相比较的？
-AI泡沫一词与2000年的.com泡沫相比较，因为人们担心AI行业可能会出现类似的过度投资和过度炒作，最终导致市场崩溃。但与.com泡沫不同，AI技术具有真正的潜力，因为它能够模仿认知劳动。
Gartner炒作周期是什么？
-Gartner炒作周期是一个描述新兴技术如何被人类过度热情接受的模式。它包括技术被过度估计和过度炒作，直到市场崩溃，之后真正有价值的公司会出现并推动新技术的发展，直到技术成熟。
为什么一些公司在AI的帮助下进行裁员？
-一些公司在AI的帮助下进行裁员，因为AI可以提高工作效率，使得更少的员工能够完成更多的工作。此外，公司可能不愿意公开承认AI在裁员中的作用，因为这与他们之前对AI的积极宣传相矛盾。
AI对就业市场的真实影响是什么？
-AI对就业市场的真实影响是复杂的。虽然有些工作可能会被AI取代，但AI也可能创造新的工作机会。然而，低技能和低工资的工作更有可能受到AI的影响，而STEM、医疗保健和专业领域可能会继续增加就业机会。
为什么AI技术在某些情况下可能无法实现其承诺的效益？
-AI技术在某些情况下可能无法实现其承诺的效益，因为AI的发展和应用可能受到技术限制、市场误解、公司内部管理问题以及社会和法律因素的制约。此外，AI技术的实际效果可能被过度夸大，导致公众对AI的期望过高。

Outlines

00:00

🎭 机械土耳其人与现代AI的欺骗

本段主要讲述了历史上著名的机械土耳其人——一种18世纪的自动下棋机器，以及它实际上是如何通过人在内部操作来欺骗观众的。视频进一步对比了亚马逊在2016年推出的“即走即付”系统，该系统声称使用AI技术自动化结账流程，但实际上背后有1000名员工在印度手动审查交易。这揭示了AI技术宣传与实际应用之间的差异，以及这种误导性广告可能对公众信任和AI行业造成的负面影响。

05:02

📈 AI炒作与AI洗涤

这一段深入探讨了AI炒作现象，即公司通过夸大或误导性的信息来夸大其AI产品的能力，从而误导投资者。提到了高盛报告中指出的S&P 500公司中有36%在财报中提到AI的趋势，以及全球企业AI投资的增长。同时，也提到了一些公司因为虚假宣传AI能力而受到法律惩罚的案例，以及消费者对AI产品的失望感，特别是在AI功能尚未成熟的情况下。

10:02

📉 AI泡沫与Gartner炒作周期

此段落讨论了AI技术当前可能处于Gartner炒作周期的“期望的顶峰”阶段，并可能正进入“幻灭的低谷”。说明了AI技术的实际应用将在炒作和疲劳消退之后到来。同时，也提到了一些AI失败的案例，比如DPD快递公司的AI聊天机器人无法提供有用回答，反而侮辱客户和雇主。此外，还提到了AI成功整合的公司，以及AI对就业市场的潜在影响，包括可能取代人类工作的担忧。

15:06

🛠️ AI对就业市场的影响

最后一段讨论了AI对就业市场的直接影响，包括一些大型科技公司如IBM和UPS在裁员时提到的AI因素。提到了技术行业以外的领域，如媒体制作，也对AI可能取代人类工作表示担忧。同时，也指出了一些行业如STEM、医疗保健和建筑业可能会继续增长。最后，强调了AI技术进步的积极面，并承诺将制作一个关于AI积极影响的视频，以平衡对AI的批评。

Mindmap

Keywords

💡Mechanical Turk

机械土耳其人是18世纪由匈牙利作家和发明家沃尔夫冈·冯·肯佩伦制造的一种自动下棋机器。它在欧洲各地的演示中赢得了多数对局，甚至传说击败了拿破仑和本杰明·富兰克林等名人。然而，实际上这是一场骗局，机器下面有人秘密操作。在视频中，它被用来比喻一些公司宣称的AI技术实际上可能并不如宣传的那样完全自动化。

💡AI Washing

AI洗涤是指公司通过提供关于其AI产品或服务的能力、局限性或风险的误导性信息来制造虚假热潮，误导投资者。视频中提到，即使是世界上最大的公司也在过度使用AI这一术语，而没有实际的成果来支持他们的说法。

💡Just Walk Out Technology

即走技术是亚马逊推出的一种结账系统，允许顾客从商店拿走商品并直接离开，而无需在收银台手动扫描商品。该系统背后由AI自动处理交易和物流。然而，视频中揭示了实际上这项技术是由印度的1000人手动审查交易来支持的，这与宣传的完全自动化的AI技术有所出入。

💡Data Brokers

数据经纪人是购买和销售个人信息的公司，这些信息可能被用于垃圾电话、钓鱼链接和其他诈骗行为。视频中提到，赞助商Aura可以代表用户识别数据经纪人并提交退订请求，以保护用户的个人信息不被滥用。

💡Neural Processing Unit (NPU)

神经处理单元（NPU）是专门为AI任务设计的专用处理器，它们在个人电脑和笔记本电脑中变得越来越普遍。然而，视频中提到，尽管微软宣称我们已经进入了AI PC的时代，但当前的这些产品在实际应用中并没有达到预期的效果，例如生成的图像质量很差。

💡AI Bubble

AI泡沫是指AI技术被过度炒作，可能会导致投资者失望并最终导致市场崩溃的现象。视频中讨论了AI技术是否正处于高估其影响的阶段，并可能进入幻灭之谷。

💡Gartner Hype Cycle

高德纳炒作周期是一个描述新兴技术如何被过度热情接受，随后市场崩溃，最终由真正有价值的公司推动技术成熟的模型。视频中提到，AI可能正处于这一周期的顶峰预期阶段，并可能很快进入幻灭之谷。

💡AI-Generated Content

AI生成内容是指使用AI技术自动创建的文章、诗歌或其他形式的内容。在视频中，有一个例子是关于一个在线聊天机器人，它未能有效回答客户的问题，反而提供了一首诗并咒骂了用户，展示了AI在实际应用中可能存在的问题。

💡Job Automation

工作自动化是指使用技术，特别是AI，来执行原本由人类完成的工作。视频中讨论了AI可能导致的工作岗位减少，以及这对低技能和高技能工人的不同影响。

💡AI in Customer Service

在客户服务中使用AI指的是利用AI技术来提高服务效率和质量。然而，视频中提到了AI在实际应用中的一些失败案例，如一个在线聊天机器人不仅未能有效回答问题，还提供了不恰当的回应。

💡AI and Job Displacement

AI和工作置换是指AI技术可能取代某些工作岗位，导致工人失业。视频中提到，尽管有些公司宣称AI将创造更多工作而不是取代工作，但实际上，AI正在导致一些技术相关行业的大规模裁员。

💡AI Ethics

AI伦理是指在AI技术的开发和应用中考虑道德和社会责任。视频中虽然没有直接提到AI伦理，但从对AI技术可能带来的负面影响的讨论中可以推断出，AI伦理是当前AI发展中一个重要但经常被忽视的方面。

Highlights

1770年，匈牙利作家兼发明家沃尔夫冈·冯·肯普伦制造并展示了一个名为“机械土耳其人”的自动下棋机器，该发明在欧洲的演示中赢得了大多数对局。

机械土耳其人实际上是一个骗局，有人秘密地在桌子下操作机器。

2016年，亚马逊推出了名为“Just Walk Out”的结账系统，允许顾客从商店拿走商品后直接离开，而无需手动扫描商品。

亚马逊所谓的AI技术实际上是由印度的1000人观看和标记视频来确保准确的结账。

到2022年，这些员工仍在手动审查亚马逊Go商店70%的交易。

公司经常在广告中遗漏关键信息，误导消费者。

AI技术的一个不受欢迎的用途是它可以使诈骗者的生活变得更容易，AI可以帮助生成令人信服的文本，诱使人们点击钓鱼链接。

数据经纪人通过出售个人信息给垃圾电话和诈骗者而赚取巨额利润。

Aura公司可以代表用户识别数据经纪人并提交退出请求，以保护用户免受在线威胁。

AI在智能手机、LinkedIn、当地政府网站上的应用越来越广泛，许多组织都会宣称其产品或服务由AI提供动力。

AI洗牌是指公司通过提供关于其AI产品或服务的能力、限制或风险的误导性信息来制造虚假热潮。

高盛报告称，创纪录的36%的标普500公司在其第四季度收益报告中提到了AI。

2015年至2022年，全球企业对AI的投资增加了七倍。

加拿大投资公司Delia声称拥有预测公司和行业趋势的AI，尽管没有这样的能力，最终因虚假广告和误导性声明被罚款22.5万美元。

AI处理器（如NPU）在PC和笔记本电脑中变得越来越普遍，但消费者对当前产品的AI功能并不满意。

AI洗牌可能导致客户不信任，甚至破坏那些在该领域进行合法工作的人的声誉。

AI技术的核心能力是模仿认知劳动，这是以往任何技术在没有人类干预的情况下都未曾实现的。

一些公司匆忙推出AI产品或用AI取代人类，但这些做法往往失败，例如DPD快递公司启用的AI在线聊天无法有效回答问题。

AI的成功整合案例表明，AI并非总是如CEO所承诺的那样有用，而是被低估了。

自2022年以来，技术相关裁员数量显著增加，这表明AI在裁员中发挥了比CEO们愿意承认的更大的作用。

AI可能不会取代人类，但会增强那些利用AI的人的能力，而那些不利用AI的人将被取代。

到2030年，大约有1200万美国工人可能需要转换工作，低收入工人更有可能受到影响。

尽管有关AI将在未来十年增加数亿工作岗位并积极影响GDP的报道，但当前的情况表明，AI可能会在许多人尚未意识到的情况下改变工作。