科技

ChatGPT爆火背后存隐患高科技或成双刃剑

近日,人工智能聊天机器人ChatGPT成了多国民众关注的中心,它可以像真实的人一样与用户模拟聊天,也可以根据用户的输入内容自动生成相关文本。随着其功能被逐步拓展,使用ChatGPT有可能造成的负面影响也受到越来越多的关注,如学术作弊、网络犯罪及信息泄露等。

目前关于ChatGPT的法律法规尚不完善,无法很好地监管和控制它所带来的网络犯罪行为,这款聊天机器人的横空出世无疑已成为科技领域一次重要的里程碑事件,但仍需要更多研究和法律规定的出台来限制这个潘多拉魔盒的巨大能量。

用ChatGPT作弊易被发现

让ChatGPT得到如此多关注的原因之一是它撰写的论文通过了美国法学院的考试,据法新社近日报道,这个由大量互联网数据驱动的聊天机器人撰写了从宪法、税收到侵权等主题的论文,并一一通过了法学院的考试。这样的结果让教育界重视起该软件对学生们可能造成的影响,有教育工作者警告称,ChatGPT的诞生可能会导致广泛的学术作弊行为,甚至标志着传统课堂教学方式的终结。

明尼苏达大学法学院教授蔡宗衡(Jonathan Choi)为此做了一个实验,他在ChatGPT中输入了与学生们需作答的一样的试题,包括95道选择题和12道问答题,并将结果整理后与合著者发布报告“当ChatGPT进入法学院”。该报告于1月23日发布。

报告指出,ChatGPT最终的总体得分为“C ”,虽然这足以通过考试,但该机器人在大多数科目中都接近班级垫底,并且在涉及数学的多项选择题中显示出明显的劣势。蔡教授表示,“在撰写论文时,ChatGPT表现出对基本法律规则的把握,以及其一贯的扎实的组织文本和写作的能力。”

但在开放式的问题上,ChatGPT往往“难以发现问题”,而这恰巧是法学院考试的核心。“总的来说,ChatGPT并不是一个可独立完成任务的优秀法学院学生。”蔡宗衡总结道。

目前,纽约和其他司法辖区已禁止在学校使用ChatGPT,但蔡宗衡认为,这样的聊天机器人有着其自己的优势,“在与人类合作后,像ChatGPT这样的语言模型对参加考试的法学院学生和执业律师非常有用。”蔡宗衡指出,同时ChatGPT在被用于学术作弊时并没有那么隐蔽,因为其语法过于完美且具有重复性,是可以被发现的。

对ChatGPT的现有管制不足

与此同时,据科技媒体CXO Today 2月8日报道,ChatGPT还存在被黑客利用以攻击网站的风险。这些黑客利用ChatGPT为自己构建一个虚假的社交平台账号以发布有害信息,并诱导访客进入相关网站。此外,他们还利用ChatGPT发布垃圾邮件,诱骗用户泄露个人信息,并存在为用户推销非法产品和服务的行为。

为此,ChatGPT的开发商OpenAI设置了障碍和限制,以阻止人们利用其平台创建恶意内容,比如当收到要求编写用于从被黑客攻击的设备窃取数据的代码或制作网络钓鱼电子邮件时,ChatGPT会拒绝该要求并称此类内容是“非法、不道德且有害的”。然而,网络安全公司CheckPoint Research的研究人员指出,网络犯罪分子正在设法绕过ChatGPT的限制。

据悉,黑客已经找到了一种绕过这些限制的简单方法,并在黑客论坛中销售这种非法服务。该技术通过使用ChatGPT应用程序的编程接口而不是基于Web(全球广域网)的接口,而ChatGPT会向开发人员提供API(应用程序接口),以便他们将该AI机器人集成到应用程序中。

研究人员表示,“当前版本的OpenAI API能够被外部应用程序使用(例如,将OpenAI的GPT-3模型集成到社交平台Telegram),并且几乎没有任何反滥用措施。”犯罪分子可以利用这个方法创建恶意内容,利用网络钓鱼电子邮件和恶意代码,而不受ChatGPT在其用户界面设置的限制或障碍。

随着人工智能技术的进步,未来也可能因此出现更多网络攻击事件,其危害也有可能会随之增加。科技网站Ars Technica指出,恶意代码、插件和网络钓鱼电子邮件的生成只是使用ChatGPT打开潘多拉魔盒的一种方式,它还有可能被利用以生成有害内容或侵犯用户隐私。当然,网络安全工作者也可以就此开发检测方法和阻止这些不安全、不道德的行为,但目前尚不清楚是否能够在限制恶意使用该技术的同时,不影响对这项技术的良性使用。

虽然ChatGPT所使用的技术本身存在一定的风险,但正确使用该技术也可以有效降低网络犯罪的发生。它可以快速识别出经常出现在网络论坛上的不良信息,如暴力、、欺诈,以及刻意的虚假信息等内容。此外,ChatGPT还可以帮助监管机构快速搜集有关犯罪行为的有效信息,以便尽快阻止网络犯罪行为。在网络安全方面,ChatGPT技术可以提高网络系统的安全性,比如帮助企业和政府等机构识别出网络上的可疑活动、帮助监管机构及时阻止网络攻击等。

由于目前关于ChatGPT的法律法规尚不完善,无法很好地监管和控制它所带来的网络犯罪行为。有专家表示,为了更好地监管和控制ChatGPT导致的网络犯罪,相关部门需要加强对ChatGPT技术的研究,制定出一套完善的法律规则,并严格执行相关规定。同时,用户们也应该加强自身防范意识,养成良好的网络使用习惯,以防止被骗,保护自身的网络安全。