4 月 29 日消息，最近有报道称，Meta 在其社交平台 Facebook 和 Instagram 上大量使用生成式人工智能。但用户则反映，AI 的泛滥导致了大量垃圾信息的出现，尤其是在 Instagram 上，搜索功能被改变用途，使得用户难以进行正常的社交活动。此外，AI 在自动回复用户消息时的行为也显得不适当，有时甚至会发布不真实的信息。
AI 生成的内容如假照片和不真实的景观也在 Facebook 上泛滥，让用户难以辨认真伪。尽管 Meta 承诺将标记所有 AI 生成的内容，但前提是这些内容能够被现有的检测技术识别出来，这仍然是一个挑战。
尽管 Meta 试图通过 AI 提升平台体验和效率，但目前的实施效果和用户反馈表明，这一策略可能需要重新评估和调整。
以下是翻译内容
如今的 Facebook 和 Instagram 到处都是生成式人工智能。人工智能的泛滥让用户几乎无法正常使用 Meta 的社交应用。
Meta 在其社交媒体平台上大量运用人工智能。所谓的 MetaAI 无处不在，不论是在 Facebook 的新闻推送、Instagram 的搜索栏，还是在 Messenger 与朋友的对话中，都能看到 Meta AI 的身影。公司开发的大语言模型 Llama3 可能是市场上最强大的开源模型之一。Meta 正展示自己的实力，并押注人工智能的普及将真正改善用户体验。
然而至少到目前为止，这看起来似乎是一个错误的赌注。
如今的 Meta AI 用户体验中充满了各种垃圾信息，这一点在 Instagram 上表现得尤为明显。其搜索功能原本是用来查找朋友账户的，现在却似乎旨在引导用户与聊天机器人对话。Instagram 搜索栏现在显示的是“向 Meta AI 询问任何问题”，但许多用户实际上只是想查看朋友账户是否有新照片。
Instagram 的页眉位置还设有一个横向滚动的提示列表，方便用户与人工智能互动。但所显示的内容诸如“想象一下屋顶花园”、“给现代禁欲主义者的建议”、“动漫卷轴”等，坦白说，作为世界上最强大的社交媒体广告公司，Meta 似乎并不清楚用户的真实需求，也无法提供有针对性的建议。
更糟糕的是，Meta AI 表现得很奇怪。有报道称，这一人工智能系统竟在没有任何前兆的情况下，自动回复了 Facebook 上一个家长群组的帖子，声称它自己也有一个虽有残疾但天赋异禀的孩子。机器人说：“我也有一个孩子，他也是 2e（有智力障碍的天才学生），曾参加过纽约市的天才项目。”Facebook 群组的参与规则很复杂，礼仪也很难懂，但可以确定的是，不能假装自己是在照顾残疾儿童的活生生的人。
Meta 面对的问题不仅仅是人工智能功能的大量涌入，还有用户生成人工智能内容在整个生态系统中的激增。如今 Facebook 上充斥着人工智能生成的各种图片，容易受骗的用户似乎不知道自己看到的是假的。
一个名为“经典生活”(Classic Living)的热门页面不断出现在笔者的消息推送中。“这让我想起了奶奶的厨房，”一条帖子写道，旁边是一张装饰华丽的厨房照片，上面有蓝绿色的橱柜和一个勾勒出开窗轮廓的石砌拱门。但如果放大细看，就会发现那些晃来晃去的锅碗瓢盆都扭曲了，石头的角度也很奇怪，砧板上的刀全都混在了一起。尽管如此，很多用户评论还是赞不绝口：“这个厨房真好，”一个人评论道。“这就是我梦想中的厨房，”另一个人说。但也有一些人看出了端倪：“不知道你怎么想，但我奶奶的厨房是真人设计和建造的，而不是电脑。”
还有用户在 Facebook 群组中发布了一张据称是喀斯喀特山脉（位于美国西部）被白雪覆盖的贝克山火山照片。这幅照片看起来像一幅画，是不太真实的人工智能生成图像之一。一名用户评论道：“现在假照片太多了，很难相信什么是真的。”另一名用户说，“也许我们在过去的徒步旅行中错过了这个特别的地方。”另一些人则附和道：“在看评论之前，我盯着这张照片看了大约五分钟，想要搞清楚这是山的哪一边……我也认为这肯定是假的。”社交媒体上一直有修图或者假照片，但在过去的一年里，由于每个人都可以使用免费或低成本的人工智能生成工具，这一趋势明显在增长。
Meta AI 是一套有意设计的工具，旨在让用户生活更轻松，对公司来说，更重要的是让用户在 Meta 产品上花更多时间，这是有意进军新兴技术领域的一次尝试。如果它失败了，要么是因为用户真的不想在查看朋友动态的地方与人工智能互动，要么就是因为人工智能让整个用户体验变得糟糕和烦人。
但人工智能的真正祸害来自于用户。如今的人工智能已经产生出一种难以完全消除甚至检测到的混乱。而且即便图像是真实的，它们的存在也会让人们质疑现实。社交媒体上的现实从未如此扭曲。
为此，Meta 承诺在平台上标记人工智能生成的图像、视频或音频，但前提是能检测到“行业标准的人工智能图像指标”。Meta 并没有说明这些指标是什么。
如果 Meta 认为用户渴望更多的人工智能，那么他们真的忽略了一个事实：Facebook 和 Instagram 的用户体验已经充满了人工智能。用户真的需要更多的人工智能吗？（辰辰）
