随着ChatGPT类产品不断出现，人工智能生成内容技术在企业运作中的应用预计也将显著增加，这将给大家的生活和工作带来很大便利，但也不可避免的会带来一些泄密风险，如今年3月1日，ChatGPT开发商Open AI发布了一个应用程序接口，允许企业付费将ChatGPT集成到他们的服务中。Open AI表示，从ChatGPT中收集的数据不会用于提高性能，但其网站显示，当这项服务被免费使用时，“我们可能会使用您提供的数据来改进我们的模型。在这种情况下，被输入的信息，例如正在开发的产品，可以用来回答其他公司的问题”。 企业如不注意防范的话，可能就会造成意想不到的损失。

 

        因此，为防止泄密，建议企业使用ChatGPT类产品时从以下方面进行保护：

 

        一、对使用ChatGPT类产品进行必要的限制

 

        由于ChatGPT类产品会将每次对话的内容纳入学习模型，如果对话内容涉及到企业的商业秘密，则在他人再次与ChatGPT进行相关内容对话时，就有可能将之前对话的商业秘密泄露出来，所以企业应对使用ChatGPT聊天的内容做出限制，禁止员工与ChatGPT讨论公司的商业秘密，并指定专门的部门对ChatGPT类产品的使用进行管理，制定使用ChatGPT类产品的规则制度，明确员工使用ChatGPT类产品的流程和条件，并禁止在涉密区域和涉密设备上使用ChatGPT类产品。

 

        二、不要使用API将ChatGPT接入公司内部知识库

 

        使用应用程序接口，可以将ChatGPT接入公司内部的知识库，利用其AI功能极大提高内部知识共享和对外客户服务的效率，但是存在内部知识库被纳入AI学习模型而导致泄密的可能性，因此一般不要把ChatGPT接入公司完整的知识库，除非能保证这些知识库内容是完全用于对外公开的客户服务。

 

        企业对禁止使用ChatGPT类产品的涉密人员和涉密区域应采取必要的技术措施，阻止ChatGPT类产品的使用。

 

        三、进行专项保密培训，警示风险

 

        企业应组织针对ChatGPT类产品的专项保密培训，详细列举使用中存在的风险，告知员工公司使用ChatGPT的使用规则，提醒员工使用ChatGPT类产品进行对话时，要提前评估输入的内容是否涉密或是否属于公司敏感信息（包括但不限于公司失败的实验数据、中止的开发计划、暂停的市场营销策略、废弃的样品资料等等），谨慎输入对话内容。

 

        与ChatGPT类产品进行应用合作的企业，应对参与应用合作的相关人员进行保密提醒，明确在合作应用中不能使用的信息资料，必要时签订专门的保密协议。

 

        四、提醒员工谨防“伪ChatGPT”网络诈骗

 

        由于目前ChatGPT还不支持国内用户使用。部分不法分子在网络上自称能为用户对接ChatGPT或者直接标注为“ChatGPT中文版”“ChatGPT对话”的微信公众号或小程序账号，要求用户使用手机号、验证码注册登录或获取完整个人信息，这种都是为了收取费用或盗取信息等其他不良企图。因此企业还应提醒员工在使用ChatGPT类产品时，一定要注意甄别，到官方网站查看相关内容，防范“伪ChatGPT”网络诈骗等。

 

        五、要注意保护个人信息和隐私

 

        企业还应提醒员工，在使用ChatGPT类产品时注意保护个人信息和隐私。

 

        3月21日全球范围内的ChatGPT用户突然发现，这个聊天机器人出现了一个可怕的漏洞。他们发现，他们竟然可以看到其他人的聊天记录的标题，而不仅仅是自己的。尽管这只是标题而非全部对话，但这仍然引起了用户们的恐慌和担忧。许多人在Reddit和Twitter等社交媒体上分享了自己的ChatGPT UI截图，显示了侧边栏中有其他人的聊天记录。

 

        这个漏洞提醒大家在与聊天机器人分享个人细节或撰写问题时需要多加小心。虽然OpenAI公司已经采取了行动来解决这个问题，但这个事件的发生也意味着大家使用任何聊天机器人或其他在线服务时，要拉紧保护之弦，防止个人信息和隐私被泄露。