新浪博客

使用ＡＩ需要注意什么？

2025-03-03 12:03阅读：

http://blog.sina.cn/dpool/blog/u/2107625650

　　　　　　　　　　　　使用ＡＩ需要注意什么？
　　　　　　　　　　　　　　　　　刘在平
使用ＡＩ需要注意什么？
ＡＩ虽然有很大助力，但也有缺陷，甚至有“陷阱”——不是她有意挖的陷阱，而是她至少在目前和相当一段时间内存在ＢＵＧ，虽然不一定是科技上的ＢＵＧ，但至少是思维上、逻辑上的ＢＵＧ。
第一，在处理复杂、模糊或需要深度情感理解的问题时，AI 可能出现理解偏差或回答不准确的情况。 AI 本质上是基于算法和数据训练的，其理解和推理能力尚未达到人类的全面性和灵活性。此外，数据偏差也可能导致 AI 产生有偏
见的结果，从而影响其公正性和客观性。
第二，AI 基于大数据进行问题解答，在海量数据中，它倾向于学习和输出那些出现频率较高的答案，这就有了人云亦云、随大流之嫌。至少在目前，AI没有真正的自主意识和独立思考能力，它只是依据数据模型与算法进行分析匹配，缺乏像人类那样基于自身感悟、经验、多种思维方式的运用、创造力等产生的独特见解。例如在艺术创作领域，AI 生成的作品可能会遵循已有的风格和模式，难以突破常规，创造出独一无二、具有深刻内涵的作品。在解决复杂问题时，AI 也难以摆脱数据局限，提出创新性的解决方案，这使得其解答可能无法满足对深度和独特性有较高要求的场景。
第三，由于上述的第二种原因，AI 对于一些非常有发展前景、符合趋势的新生事物往往给与负面的、否定性的阐释，那是因为具有超前性的新生事物还往往没有被更多的人认知，还未得到广泛的认同，这种情况下AI 是很难发现或采纳少数人的意见的。当“真理掌握在少数人手中”的时候，AI很难站在少数人一边。即使通过再三激励和引导，它也会非常勉强地说上几句，然后就是大量的否定和批判。随声附和的特性相当明显。
第四，当问到AI搜索不到的问题时，它可能会利用自己的“算法逻辑”进行“推理性猜测”，然后进行一番“貌似有道理的无中生有”的解答。这种情况本人和朋友交流时，他们也经常遇到。如果不加以分析就相信这样的回答，无疑是被误导。
　　第五，AI 数据来源与算法偏好导致的 “信息茧房”。首先是数据来源局限，AI 模型的训练依赖大量数据，而这些数据本身可能存在局限性。例如，数据收集可能集中于某些特定领域、地区或群体，这就使得 AI 在解答问题时，输出的内容倾向于这些数据所涵盖的范围。比如，在训练语言模型时，如果数据主要来源于欧美地区的新闻报道，那么在解答关于不同文化的问题时，就可能过度强调欧美文化视角，而忽略其他文化观点，从而将用户局限在特定的文化信息范畴内，形成 “信息茧房”。其次是算法偏好，AI 算法通常会根据已有的数据模式来生成回答。为了追求准确性和稳定性，算法会倾向于选择那些在数据中出现频率较高的观点和信息。例如，在处理有关经济政策的问题时，算法可能更倾向于输出主流经济学派的观点，因为这些观点在数据中更为常见。这就导致用户只能接触到主流观点，难以了解到其他小众但可能具有创新性的看法，被困在算法筛选出的主流信息 “茧房” 之中。当然，关于“信息茧房”，还有其他原因，需要专门展开分析，这里不再赘述。
使用ＡＩ需要注意什么？

　　第六，人类的思维方式是多元的，例如逻辑思维、辩证思维、系统思维、抽象思维、形象思维、逆向思维以及包括环绕思维、兼并思维、跨越思维、发散思维等在内的创造性思维等等。而AI 目前对于这些思维方式的运用，是薄弱的。将来，是不是可以通过自己的算法逻辑“弯道超车”而达到以至于超越人类智慧，是可以期待的。但至少在目前我们所使用的
AI，还不足以让我们充分以依赖。
关于思维方式，需要专文展开，这里点到为止。
　　最后，需要强调的是，我们需要与时俱进，需要充分理解和借助ＡＩ强大的助力作用。在我们学习知识、思考问题、分析问题、进行各种创造性工作时，如果善于借助ＡＩ，无疑会有利于我们开扩展眼界、开拓思路、整合信息、提高效率、激发灵感等等，等等。但是，在充分发挥AI的辅助功能的同时，还需要意识到其局限性，还非常有必要扬其长而避其短，要充分借助而不能过分依赖。同时，传统的读书思考必须坚持，独立思考和批判意识必须坚持。或许可以说，合理地把握人的主体意识与人工智能的关系，将成为一个非常严峻、深刻的时代课题。
使用ＡＩ需要注意什么？

我的更多文章

下载客户端阅读体验更佳

APP专享