加强智能传播理论与实践研究

2023年12月29日，清华大学举行第三届“智能与科学传播全球论坛”。本届论坛主题为“面向未来的智能与科学传播：人工智能与社会责任”，与会专家学者深入探讨人工智能在新闻传播及社会领域的影响，助益技术与人文交融互动。

智能与科学传播是当今新闻与传播学领域的重要前沿。清华大学新闻与传播学院院长周庆安表示，人工智能的快速变革不仅影响了传播方式和场景，更深入到话语和观念的生产过程中，触及了新闻传播研究的核心问题，将相关研究推向新高度。他期待未来能实现传播领域知识生态与智能技术的深度融合，推动智能传播持续发展。清华大学智媒研究中心主任陈昌凤表示，随着生成式人工智能的蓬勃发展，新兴技术与人类关系、人工智能与社会责任的相关讨论成为众多学科研讨的焦点。

与会专家就人工智能在新闻传播领域的实际运用进行了探讨。中国人民大学新闻学院国际新闻与传播系主任张迪调查发现，大多数人认为人工智能对工作效率和学习有积极影响，但也存在人工智能对就业机会和个人收入产生负面影响的担忧。经济发展水平、社会文化、道德伦理和技术普及率都会影响公众对人工智能的态度。天津大学新媒体与传播学院副院长王赞更关注算法问题。他认为，信息推荐系统包括召回和排序两个阶段，这样的推荐模式可能会引发公平性问题，影响社会资源分配和青少年价值观的形成。而提升信息推荐系统公平性的方法包括数据增强、强化学习和重排策略等。他表示，基于采样的信息推荐系统的公平性测试方式更为高效，有助于提高后续搜索效率，提升后续信息推荐模型的公平性。

清华大学新闻与传播学院新媒体中心主任沈阳认为，在哲学层面，人工智能呈现出与人类不同方向的镜像进化论和认识论，还能在审美上引发更多体验。在应用方面，人工智能是人类认识的多次压缩结果，有鉴于此，概率模型的存在可能导致人工智能幻觉。沈阳建议，未来的研究应致力于消除这种幻觉，开拓全新的研究领域，比如可进行梦境还原，与潜意识分析相结合开展研究。

论坛由清华大学新闻与传播学院、《全球传媒学刊》联合主办。

2024年01月09日 14:01:57

人工智能系统为何会产生幻觉？深入探究

人工智能系统为何会产生幻觉？深入探究

)以虚拟助手、智能家居设备、医疗诊断和自动驾驶汽车的形式运行。然而，这项关键技术的发展也带来了一个问题，因为它会导致所谓的“人工智能幻觉”。

人工智能系统为何会产生幻觉？简单来说，人工智能幻觉是指人工智能系统在训练数据收集过程中，产生或推断不存在的不正确信息的情况。另一方面，如果无法解决人工智能幻觉问题，则可能导致传播虚假信息和做出有偏见的判断等问题，从而引发经济和安全问题。本文将解释人工智能系统为何会产生幻觉、其原因及预防措施。

当大型语言模型能够观察到从未见过或根本不存在的特征或物体时，系统很可能会出现幻觉。这会导致它生成不正确的输出信息，这些信息在现实生活中毫无意义，但在某些情况下，它是基于自身感知到的模式/物体。

换言之，当模型做出错误陈述或依赖训练数据中的琐碎模式和偏见来产生或捍卫有争议的答案时，人工智能系统会产生幻觉，但这种情况发生在更高复杂程度上。

人工智能系统产生幻觉有几个主要原因：

例如，曾经有过面部识别算法无法识别非白人面孔的情况；这被归因于基于这种偏见编制的训练数据集。

人工智能幻觉带来了严峻的挑战；如果不加以解决，可能会出现以下情况：

以下是研究人员为预防人工智能产生幻觉而采取的主动措施：

为了帮助人工智能继续为社会带来利益，并防止出现幻觉相关损害的危险，组织应提前面对数据和模型质量问题。谨慎负责，避免人工智能助手幻觉和相关谬论可能带来的严重后果。

总之，只要实施相应的缓解策略，人工智能幻觉风险是可以控制的。然而，避免可能的负面结果需要技术开发者和影响政策变化的人的持续观察。只有在做出这样的共同努力之后，才能开发出一个对人类产生积极影响同时又能保证人类安全的人工智能系统。

答：人工智能幻觉是指人工智能系统生成虚假或无意义信息的情况，通常是由于对数据或模式的误解造成的。

2、人工智能系统为何会产生幻觉？

答：人工智能系统可能会由于各种因素而产生幻觉，包括过度拟合、训练数据中的偏见以及模型复杂度高。

答：幻觉在人工智能中相当常见，尤其是在缺乏对可能结果的约束的大型语言模型和生成工具中。

4、人工智能幻觉可以被预防吗？

答：防止人工智能幻觉包括使用过滤工具为人工智能模型定义明确的边界，并设置概率阈值。

5、人工智能幻觉会带来什么后果？

答：其后果可能包括传播错误信息甚至造成现实世界的伤害，例如错误的医疗诊断。

6、人工智能幻觉如何影响对人工智能系统的信任？

答：幻觉会破坏人们对人工智能的信任，因为如果没有经过验证，人们就很难依赖系统的输出。

7、有没有什么关于人工智能幻觉的著名例子?

答：值得注意的例子包括，聊天机器人生成虚假的学术论文，或在客户服务互动中提供不正确的信息。

8、人工智能幻觉是否会同时出现在语言和视觉系统中？

答：是的，人工智能幻觉可能发生在语言模型和计算机视觉系统中。

9、训练数据在人工智能幻觉中起什么作用？

答：训练数据至关重要；有偏见或不具代表性的数据可能会导致反映这些偏见的幻觉。

10、是否有正在进行的研究来解决人工智能幻觉问题？

答：是的，有大量研究致力于了解和减轻人工智能幻觉，以提高人工智能系统的可靠性。

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。

人工智能为何产生幻觉？揭示机器智能的迷雾与挑战

在当今的科技时代，人工智能（AI）已经深深融入我们的生活中。从图像识别到自然语言处理，AI的应用遍及各个领域。然而，伴随着技术的进步，机器智能所面临的一大挑战——机器幻觉，逐渐引起了研究者和企业的关注。这里所指的机器幻觉，即人工智能系统在处理信息时，产生与现实不符的感知或判断，这种现象不仅影响了AI的性能，还有可能对社会的安全和决策产生深远影响。

机器幻觉的产生是一个复杂的过程，涉及多种因素。首先，数据问题是导致机器幻觉的重要原因之一。人工智能的学习依赖于大量的训练数据，而这些数据如果存在偏差或不完整，模型在面对新数据时，可能会产生错误的判断。比如，某个图像识别模型若只在特定环境下进行训练，遇到不同情境中的相似对象时，则极易出现误判。研究表明，图像识别中某些神经网络将猫识别为狗便是这一类问题的典型例子。

其次，模型的结构设计对机器的感知能力具有关键影响。深度学习模型通常由多个层次构成，而各层之间的连接与加权决定了模型的学习能力。如果设计不合理，信息可能在层次间传递时发生损失，导致特征提取错误，最终引发幻觉现象。例如，卷积神经网络在处理复杂图像时，可能无法准确捕捉到物体细节，影响模型的识别精度。此外，现有算法在处理复杂任务时也存在局限性。许多机器学习算法在面对对抗样本时，会产生错误的输出，这进一步揭示了机器在理解能力上的不足。

机器幻觉的实例在现实应用中比比皆是。在自然语言处理领域，某些聊天机器人可能误解用户的意图，给出不相关的回答。这种现象通常源于模型对上下文理解的不充分，导致生成文本时未能准确把握语义。此外，自动驾驶技术同样面临机器幻觉的问题。尽管这些系统依赖于大量数据来进行判断，但在复杂环境下，它们可能会错误判断行人和交通信号，造成潜在的安全隐患。这些例子凸显了机器幻觉不仅影响了AI的性能，也对实际应用的安全性和可靠性构成挑战。

从技术、伦理和社会层面来看，机器幻觉的影响是深远的。首先，从技术角度讲，机器幻觉限制了人工智能的应用范围。在医疗影像分析或金融风险控制等领域，机器的判断错误可能导致严重后果。这意味着确保机器智能的可靠性和准确性，将成为技术发展的重要挑战。其次，机器幻觉所引发的伦理问题也日益凸显。当机器的判断影响到人类的决策时，若产生幻觉，可能导致不公平的结果，加剧社会不平等。因此，在设计和应用机器智能时，严格考虑其潜在的伦理影响，确保技术的公平和透明是至关重要的。

最后，机器幻觉对社会的影响也显著。随着公众对人工智能的信任度受到幻觉现象的影响，频繁的错误可能导致人们对于技术的抵触情绪。这将对未来人工智能的推广和应用构成挑战。为了应对这一问题，研究者与开发者需要积极探索解决方案，减少机器幻觉的发生，提高公众对人工智能的信任度。

针对机器幻觉的消除，首先需要有效识别其存在。数据分析是识别偏差和噪声的重要手段，通过统计分析检查数据分布，以确保训练集的多样性和代表性。此外，模型评估同样不可忽视，交叉验证和其他评估指标能够为检验模型在不同数据集上的表现提供依据。可视化工具如t-SNE和PCA也可以帮助专家在特征空间中识别潜在的幻觉模式。

提升数据质量是消除机器幻觉的关键步骤。通过清洗数据来去除噪声和错误样本，确保数据的准确性和一致性，能够有效减少幻觉的发生。同时，通过数据增强技术提高训练数据的多样性，使模型更全面地学习各种特征，也具有重要意义。在模型结构优化方面，合理设计网络的深度和宽度，选择合适的激活函数，避免过拟合和欠拟合，是提升模型性能的有效措施。

在训练过程中，合理设置学习率和动态调整，以提高模型的收敛速度和稳定性，对于消除机器幻觉也至关重要。此外，通过生成对抗样本的对抗训练，可以增强模型面对输入干扰的鲁棒性，进一步降低幻觉的发生率。一旦模型部署后，持续监控其性能，收集反馈数据，并及时修正潜在的问题，也是维护机器智能可靠性的重要环节。

总而言之，消除机器幻觉是一个复杂的系统性任务，涉及数据、模型、训练与评估等多重因素。通过结合多种有效方法，能够显著降低机器幻觉的发生，提高机器智能的可靠性和准确性。随着人工智能技术的不断发展，减少机器幻觉对于推动技术应用和普及至关重要。