马斯克、图灵奖得主等千名专家发表联名公开信，呼吁暂停训练任何比GPT-4更强的人工智能。

我们呼吁所有人工智能实验室立即暂停训练任何强于GPT-4的人工智能，时间为至少六个月。

原文：Pause Giant AI Experiments: An Open Letter

全文中文翻译：

查看全文

微软必应的表现

• 表面繁华，杜撰严重，准确度差。
• 所谓的网络搜索，只是将必应搜索的前几条结果附送到模型中，网页内容只有摘要，并没有进入到网页中获取网页内部信息。
• 网页搜索结果摘要的可读性差，内容杂乱且不全。
• 成为ChatGPT的快捷入口，提供相似结果。
• 成本异常高昂，部署大规模免费服务难。
• 安全性差，可破解率高，社区防破解难度高。
• 伦理表现极差。
• 总结：对搜索引擎可用性低。

总体问题和思考

• 内容问题

  • 网络内容混乱，可用信息密度低，AI可读性差。

    • 调整搜索权重，优化信息整理和提取，布局格式化、语义化的权威数据平台。

  • 搜索结果只有摘要？

    • 一个网页的信息量巨大，每个字符都是成本，探索怎么样获取网页内容并低成本提取出最符合用户需求的信息，如使用低端模型，或者如上对数据进行预先格式化整理。需要整个互联网进行配合改革？

• 成本问题

  • 训练成本高，运行成本高。

    • 要订阅制收费？
    • 限制免费使用量或功能？
    • AI带货？
    • 广告收费式引用（挂链接）？
    • 软广（隐形推广）？合法性？
    • 各类平台的合作？（汽车、旅行、美食、购物…… 几乎所有）
    • 提升技术

• 安全问题

  • 必须使用ChatGPT模式，而不是必应的Prompts模式。
  • 必须对防破解进行加强训练。（破解指通过特殊语句绕过对规则、内容等的限制，非对计算机服务系统，法律未覆盖）
  • 必应的教训：发布前一定要大量测试！！！

其他

• 有些问题必须提升模型能力才能解决。
• ChatGPT等之于搜索引擎的可用性和必要性当前存疑，要给用户带来根本变化，仍需要大幅改进。
• 搜索引擎可以是ChatGPT式AI的重要入口。
• 是否需要转变AI之于搜索引擎的定位，从替代性变为辅助性，或者说更重视辅助，而不是替代。比如让AI建议搜索结果而不是直接给出答案。

时间和精力限制，文章为严肃向且尽量言简意赅。

年后，ChatGPT又再次掀起了新的热潮，这场热潮随着微软发布整合了ChatGPT的必应搜索愈演愈烈。谷歌紧张布局，各大公司纷纷表态，越来越多的人开始把“革命”放到嘴边。

最重要的原因，是ChatGPT将能够改变搜素引擎，并且正在改变。

将AI集成到搜索引擎，能够简化搜索体验，让AI为用户分析搜索结果，并给出用户最想要的答案。这也是它能够带来的最直接变化。

即便在移动互联网时代，搜索引擎的地位仍然是处于核心区域的。同时，搜索引擎是互联网的一个关键入口。所以，它无疑将引起连串反应。

注意：以下内容可能偏向积极，一些变化可能是缓慢或长期的，部分可能是不正确的。

AI搜索引擎

新的搜索权重体系

查看全文

微软的动作异常的迅速，自发布整合了 ChatGPT 的必应搜索，推出“等待列表”的机制之后，部分用户现在已经得到了访问“新必应”的机会。

ChatGPT 是基于 OpenAI 公司的 GPT-3 模型开发的，即便传言说新必应使用了它的下一代，也就是 GPT-4，但目前尚未证实。不过很多用户的确反映这个名为 "Bing Chat" 的人工智能，能力似乎略微比 ChatGPT 要强一些。

当然，最重要的是，当“ ChatGPT 联上网”，会是怎样的表现。

当让它总结当前世界热点新闻时，它列出了土耳其地震等五条内容：

查看全文

年前很久便使用了ChatGPT，与其进行了大量的对话。总体上说，确实是让人震撼的，即便有一些小问题，但它彻底重塑了我对AI的看法。

一直以来，我认为人脑的能力远远超过所有的计算机，另一方面，人类也一直无法完整揭开大脑的奥秘，这些看法让我相信，短期内，AI是无法达到或者接近人脑的程度的。在ChatGPT之前，AI的表现看起来似乎确实如此，Siri之类的人工智能助手几乎完全是靠固定模式在工作。

查看全文