ChatGPT可能泄露商业机密-美国FTC称将重点关注AI违法行为

ChatGPT可能泄露商业机密，美国FTC称将重点关注AI违法行为。以色列网络安全公司Team8发布了一份新的报告，指出一些企业使用了诸如ChatGPT之类的人工智能技术，可能会泄露客户信息以及商业秘密。该报告指出，企业使用生成式人工智能时，其敏感信息、知识产权、源码、商业秘密以及其他数据，可能会被他人获取并处理，包括客户信息、个人信息和保密信息。

新闻详情

新浪科技讯，以色列一家网络安全公司“Team8”发布了一份新的报告，报告称，一些企业使用了诸如 ChatGPT之类的人工智能技术，从而可能会泄露客户信息以及商业秘密。

这份报告说，新一代人工智能聊天机器人以及协作工具的普及，可能使一些企业面临数据泄漏以及法律风险。他们担心黑客会通过聊天机器人来获取公司的敏感信息，或者对公司进行攻击。而且，现在喂给聊天机器人的那些机密信息，将来可能也会被人工智能公司所利用。

微软(Microsoft)、阿尔法(Alphabet)等科技巨头正竞相开发基于人工智能的聊天机器人(Talk Mobility)与搜索引擎(Talk Mobility)，利用从互联网上收集到的数据，对其进行建模，并向用户提供“一站式”的回答问题。报告还说，如果这些工具被使用了保密的或者私人的数据，那么将来就很难删除这些信息了。

这份报告中说到，“企业使用生成式人工智能时，其敏感信息，知识产权，源码，商业秘密，以及其他数据，可能通过用户直接输入或者使用 API等方式，被他人获取并处理，包括客户信息，个人信息，保密信息等等。”Team8将其列为“高风险”。”他们相信，如果防范措施得当，风险是“可控”的。

“Team8”在一篇报道中强调，“聊天机器人”发出的询问信息不会被输入到“预测模型”来训练人工智能。

“截止发稿，语言模型并不能实时更新，所以我们不能将用户输入的信息反馈给用户。不过，这并不意味着我们不能用这种方法来训练将来的大语言模型。

这份报告同时指出了另外3个“高风险”的问题，这些问题涉及到了通过第三方应用程序来共享越来越多的信息，并且强调了威胁。微软已经在 Bing搜索和Office365工具中加入了一些人工智能聊天机器人的功能。

报告中说：“比如，在用户方面，第三方应用程序将使用自动生成的人工智能 API，一旦受到攻击，可能会向用户提供电邮、网页浏览等服务，攻击者也可能会伪装成用户进行攻击。”

该公司相信，人工智能的应用还会加剧歧视问题，破坏公司的名誉，或者使公司陷入侵权诉讼的危险之中。以上问题均属“中风险”。

微软的副总裁安·约翰逊参与了该报告的起草工作。微软已经向开发 ChatGPT的 OpenAI公司注资了数十亿美元.

一位微软发言人表示：「微软鼓励公开讨论有关安全与人工智能的网路风险。」

这款由 OpenAI研发的聊天机器人 ChatGPT引起了监管方面的关注。社会各阶层都担心，当一些公司想要利用这一技术来提高效率的时候，这样的创新可能也会被用来做坏事。

星期二，美国联邦贸易委员会(FTC)官员说，他们将会把注意力集中在那些滥用人工智能技术，违反反歧视性法律或者有欺诈行为的企业身上。

联邦贸易委员会(FTC)主席莉娜·可汗、委员会成员黎贝卡·斯劳特、阿尔瓦罗·贝多亚等人出席了美国国会就最新人工智能创新提出的问题的听证会。该技术可被用来制造高品质的“深度伪造”，从而产生更多的欺骗性欺骗和其他犯罪行为。

贝多亚指出，使用运算法则或人工智能的公司，不应违反民权法，不应违反不公正或欺诈行为。

他指出，“黑盒子”不应该成为无法解释该算法的理由。

Khan还相信最新的人工智能技术能够帮助罪犯进行诈骗。与此同时，她还说，“联邦贸易委员会应对任何不端行为进行制裁。”

斯劳特注意到，联邦贸易委员会已经有一百多年的历史了，它总是必须适应技术的变化，而且它也不能改变它对 ChatGPT和其它人工智能工具的适应性。

从组织结构上讲，这个委员会应该有五个成员，但是现在只有三个，而且都是民主党成员。