最近,上个月发布的 ChatGPT 4o 模型新增了一个强大的功能——内置图像生成器,它在生成带有文字内容的图片方面表现突出。不过,这项技术进步也引发了一些新问题。有人发现,利用这个工具可以轻松制作假餐厅账单,这无疑为潜在的欺诈行为提供了便利。
一位名叫德迪·达斯的社交媒体用户兼风险投资人,在社交平台 X 上分享了一张他声称由 4o 生成的虚假收据图片。这张图片显示的是旧金山某知名牛排餐厅的一份账单。之后,陆续有人模仿出类似的效果,甚至有人进一步加工,比如添加食物或饮料的污渍,让伪造的收据看起来更加真实可信。
IT 之家观察到,其中最成功的案例之一来自法国。一位领英用户上传了一张看起来非常皱巴的 AI 制作的收据,这张收据属于一个当地的连锁餐饮品牌。TechCrunch 也在实验中成功生成了一张假收据,背景设定为旧金山的一家苹果蜂餐厅。尽管这份伪造的账单存在一些明显的漏洞,例如金额格式错误以及数字计算不符,但专家指出,通过简单的图像处理软件或者更精准的输入提示,这些问题完全可以被修正。
这种情况显然为诈骗活动打开了方便之门。人们担心,此类技术可能被滥用,用来伪造不存在的消费记录以骗取赔偿金或其他形式的利益。
针对此事,OpenAI 的代表泰亚·克里斯琴森解释说,所有通过该模型创建的图像都会嵌入特定的元数据,表明其来源。他还提到,一旦发现用户违反服务条款,公司会立即介入处理,并且他们会持续根据用户的反馈和实际应用情况改进系统。
对于为何允许用户生成假收据的问题,克里斯琴森回应道,OpenAI 希望尽可能赋予用户最大的创作自由。他认为,这种技术除了可能用于不良目的外,也能服务于其他正面用途,例如教育公众有关财务知识的内容,或是作为创意产业的一部分,如设计原创艺术品和商业广告等。