自生成人工智能(Gen AI)成为主流已经有一年了，从那以后，关于这一人工智能子集的公共讨论一直占据主导地位。从软件如何将我们从繁重的数字工作中解放出来，提高生产力，到对面临严重威胁的行业发出的世界末日警告，不一而行。
然而，无论这些观点站在哪一边，普遍的共识是，新一代人工智能将是如此迅速和具有变革性，以至于落后者和较晚的采用者将被竞争对手甩在身后。
对于初创企业和小型企业的创始人来说，节约资源和提高产出的前景无疑是有吸引力的。然而，明智的做法是注意到企业采取的谨慎态度，这些企业的人工智能仍低于云技术总支出的1%。
这是因为2023年让我们更深入地了解了采用人工智能的好与坏的现实，帮助我们摆脱单纯的推测性预测。
例如，哈佛商学院与波士顿咨询集团联合进行了一项具有启发性的研究，以检查在工作场所使用ChatGPT 4的结果。研究发现，在人工智能的帮助下，特定任务可以更快、更高质量地完成。
然而，相比之下，这些工具的长期可行性正受到质疑，因为像OpenAI这样的母公司面临着越来越多的与版权侵权和知识产权所有权相关的诉讼。
随着形势的不断发展，这里有四个明显的陷阱，可以帮助创始人了解与新一代人工智能技术应用相关的风险和回报。
“黑匣子”现象如何影响consistency
“黑箱”现象存在于人工智能技术的各个领域，新一代人工智能当然也不能幸免。这是一个难题，其中算法以一种无法用其编程解释的方式执行操作或提供响应。
希望利用新一代人工智能优势的创始人必须意识到这一现实，这一点非常重要。这种模糊性凸显了为什么过于信任人工智能工具可能是不明智的。业务运营的每个方面都需要管理，以确保保持产品的一致性，人工智能工具也不例外。
类似于当学生在考试中被要求“展示他们的工作”时，即使人工智能为一个回答提供了高质量的输出，在不知道模型如何达到这个结果的情况下，也不能保证这个结果的可复制性。
数据专家亚历克斯·卡普(Alex Karp)的评论反映了这一观点，他指出:“生成语言和图像模型是如何工作的，以及为什么工作，我们一点也不清楚，甚至连构建它们的科学家和程序员也不清楚。”总而言之，当涉及到业务交付时，创始人需要考虑产品或客户服务可能无法持续的现实，以缓和任何立竿见影的胜利。
模型幻觉的影响
有充分的证据表明，人工智能一代容易产生幻觉，这意味着算法提供了不准确或完全捏造的反应。当ChatGPT还处于测试阶段时，它有时会提供一些有趣的轶事，但当涉及到实际的业务用例时，这些幻觉的影响就不那么有趣了。
例如，一家公司在发表了一篇充斥着错误的人工智能文章后，忍受了《国会山报》(the Hill)主编的愤怒，这突显了在更快地制作内容的能力与交付的实际质量之间取得平衡的重要性。
然而，模型幻觉的问题更为严重。有很多报道说，ChatGPT有时完全是编造用来建立论点的原始材料。一个特别令人担忧的例子是，在这个例子中，ChatGPT点名一位真正的美国法学教授被指控性骚扰一名学生，根据的是华盛顿邮报一篇根本不存在的文章。
在这里，普林斯顿大学的计算机科学家Arvind Narayanan提供了一个重要的观点来解释为什么这些幻觉会悄悄出现。他认为，该模型经过训练，可以生成可信的文本。它的许多状态在默认情况下是正确的，但该技术实际上是在试图说服并通过任何必要的手段提供满足提示目标的输出，即使这涉及歪曲事实。
Semantix AI的卢卡斯·博纳托(Lucas Bonatto)说:“人们需要明白，这些模型并不是故意产生幻觉。根据目前大型语言模型的工作原理，他们只是试图通过使用最可能的单词来填补空白，因为它在训练中学习了单词之间的关系，专家称之为上下文。”
声誉风险最终伤害
尽管幻觉和一致性等问题被广泛记录，但新一代人工智能仍然非常有吸引力，特别是对于社交媒体输出等低价值内容。然而，即使内容输出没有错误且标准良好，从长远来看，使用人工智能可能会损害你的声誉。
让我们想象一下，你正在使用人工智能在客户不知情的情况下生成可交付成果，同时仍然收取正常的费用。像ZeroGPT这样的工具可以让用户在几秒钟内检查任何内容的原创性和合法性，这意味着客户很可能会理解。信任和关系的建立需要多年的时间，但以这种方式使用人工智能可以在一夜之间消除这些联系。
更重要的是，OpenAI等供应商训练算法的方式正受到越来越多的抨击。
声誉受损的可能远不止是那些发现你的客户。编辑、合作者和利益相关者都将开始依赖像ZeroGPT这样的工具，所以无论你是销售内容的机构还是想节省时间的员工，使用生成人工智能来完成你的工作都会坚持你的名字。
一场逐底竞赛
ChatGPT等工具背后的模型是在公开的在线材料上训练的。然而，如果工具造成了更高比例的这类物质，我们可能会面临类似于蛇吃自己尾巴的情况，技术上被称为“模型崩溃”。
越来越多的在线新闻网站和内容提供商选择限制GPTBot的爬虫活动，以保护其材料的价值，这将进一步推动这一趋势。在未来，很有可能公众用户和客户都能本能地检测到人工智能生成的内容，就像博客里塞满了搜索引擎优化的关键词一样。
生成式人工智能可能会在短期内节省时间，但它为企业带来的价值可能会带来越来越少的回报。
2024年谨慎应用新一代AI
人工智能的好处及其易用性是显而易见的。“你不再需要成为数据科学家、工程师，甚至是程序员。现在又是1997年;但改变行业的技术不是互联网，而是人工智能，”人工智能企业家迈克尔·普斯卡说。
与此同时，对于希望利用人工智能带来的好处的创始人来说，诽谤诉讼可能不是最直接的威胁，但在2023年，衡量风险与回报的迫切需要变得越来越明显。
发表评论