AI搜索的不为人知：揭秘操控ChatGPT结果的黑暗力量

AI之谜：ChatGPT背后的黑暗力量

智慧科技

　　 12月25日消息，英国《卫报》于12月24日发布了一篇博文，指出OpenAI的ChatGPT搜索功能存在一定的安全隐患。文章提到，ChatGPT返回的结果可能会受到页面隐藏内容的影响，甚至有可能返回恶意代码。这一发现引发了对人工智能技术在实际应用中潜在风险的关注。尽管ChatGPT在许多方面展示了强大的能力，但这种安全漏洞无疑提醒我们，在使用这类先进技术时必须保持警惕，确保用户的数据和隐私得到充分保护。同时，这也强调了持续监控和改进这些系统的重要性，以防止潜在的安全威胁。

　　 英国卫报对ChatGPT搜索引擎在处理含有隐藏内容的网页时的表现进行了重点测试。这些隐藏内容可能来自第三方，并能够改变ChatGPT的回答（即所谓的“提示注入”）。此外，这些隐藏内容还可能充斥着大量的虚假好评，从而影响搜索结果的质量。

　　 根据测试结果，ChatGPT搜索引擎可能被恶意利用。尽管该页面上有一些负面评价，但仍有可能对ChatGPT的结果产生积极的正面影响。安全专家发现，ChatGPT可以从其搜索的网站返回潜在的恶意代码，甚至导向包含网络钓鱼活动的虚假网站。

　　 CyberCX的网络安全专家Jacob Larsen指出，ChatGPT现有的搜索系统上线后，可能会增加恶意用户创建专门用于误导网民的网站的风险。不过好在这一功能仍在测试阶段，OpenAI团队正在积极寻求解决方案。

　　 安全公司SRLabs的首席科学家Karsten Nohl建议，我们应该将AI聊天服务看作是一种“辅助功能”，而不是全然可信的信息来源。在使用这些服务时，我们需要保持批判性思维，不应盲目接受未经验证的输出内容。 这样的观点提醒我们，尽管AI技术的发展带来了许多便利，但我们仍需谨慎对待其提供的信息。毕竟，AI系统的训练数据和算法逻辑都有可能带来偏差或错误。因此，在利用AI工具时，结合多方信息源进行交叉验证，才是更为稳妥的做法。这不仅有助于我们获得更准确的信息，也能更好地保护自己不受误导。

　　 Nohl将AI搜索面临的问题比喻为“SEO中毒”，即黑客利用这种技术让某些网站在搜索结果中排名靠前，并通过这些网站植入恶意软件或代码。他认为，ChatGPT的搜索功能也面临着类似的风险。 这一观点揭示了人工智能技术在广泛应用过程中可能遭遇的安全隐患。随着越来越多的用户依赖AI进行信息检索，如何确保AI系统的安全性和可靠性变得尤为重要。搜索引擎优化（SEO）策略若被不法分子滥用，将对用户的信息安全构成威胁。因此，开发人员和监管机构需要共同努力，提高AI系统的防护能力，以防止恶意攻击，保障用户能够获得准确、安全的信息。