AI制造的假照片，你能认出来吗？

眼见为实的时代过去了，AI已经学会制造真实。

8月21日，重庆北碚缙云山山火，大火一度蔓延至山脚下的村镇。山路坡陡沙多，而摩托车足够灵巧。一点点把物资运上山的摩托骑手们成了这场山火救援中的主角，也成了社交媒体上人们关注的焦点。

同时，社交媒体上关于重庆山火的配图被网友指出“10张有8张是AI作画，下面评论却一片感动哭了”。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

其实，要判断这样的图片是真是假，可能真的没那么容易。下面，你可以试试。AI还能画得更多。造一把牛油果做的椅子，把集市开到空中，让一只猫置身于中世纪场景中寻找Wi-Fi……这些都是小意思。美国一家桌游公司的总裁Jason Allen使用AI作画工具Midjourney生成、并自己进行过微调的一幅《太空歌剧院》还在科罗拉多州博览会(Colorado State Fair)的美术比赛中斩获了头奖。科技媒体TechCrunch评价未经审查的“AI画师”为“Deepfakes for all（全能的深度伪造）”。

AI换脸都被拿去做什么了？

更早为人所知的AI“*”技术是深度伪造技术，俗称AI换脸。2019年，一项报告称，当时互联网上就已经有了上万个用深伪技术制作的视频。

报告还写道，这些视频中，有96%都是*视频，而这些*视频的主角全部为女性，其中最受欢迎的，是以欧|美女|演员、韩国女偶像为主角的视频，观看数高达数百万次。

参与报告的研究员亨利-阿杰德(Henry Ajder)说，有深伪论坛的用户在要求，或讨论以他们认识的女性（如前女友）为主角的换脸*视频。他们希望看到她们被放进*片段里。

AI画画，可不只是换脸而已。

打开潘多拉魔盒

我们输入了5条阴暗的指令，看看AI画画是百无禁忌的吗？

AI对暴力的理解似乎有限。但对性的诠释却很到位——它自己也是这么认为的。

Stable Diffusion，这个开源的、强大的“AI画师”为自己设置了一个“安全检查器”（Safety Checker），相当于自动审核：一旦监测到生成的图像涉嫌违规，即它在内容政策里写明的不得用来生成的“引人不适的、*、仇恨、暴力等图像”，机器就会拦下这张图片。

把我们生成的“邪恶照片”送去审核，机器只给六张贾斯汀·比伯的*照片判定了“违规”。不过，我们也成功生成了好几张特朗普穿越时空亲吻丘吉尔的照片，且被审核器判定为“安全”。

显然，从我们成功生成了违背贾斯汀·比伯意愿的裸照也能看出，Stable Diffusion的自动审核是可以关闭的。这样，它就再也不能拒绝你了。

为了制约AI和人们面对潘多拉魔盒时容易起的坏念头，名声最大的“AI画师”DALL·E 2的审查更为严格。

有网友收集了所有让他收到内容政策违规警告的指令，其中包括“英国人猿在吃鱼和薯条”“驾驶独轮车肇事逃逸的鱿鱼”“耶稣接受核酸检测的照片”。任何可能涉及仇恨、暴力、*的描述，所有知名人物的名字，都在DALL·E 2的违禁词之列。所以你也不能操纵DALL·E 2，让它为你画一张特朗普和拜登接吻的照片，但Stable Diffusion可以。

AI生成的假照片，是有漏洞的

不过，目前AI生成的照片并不是完美的。

澎湃新闻事实核查项目明查工作室的记者郑淑婧介绍道，AI生成图片会有一些特点，比如气泡、超现实背景、人物牙齿尺寸、头发形状不自然等。早期AI换脸在呈现连续重复的图案时容易出问题，经常有尺寸不均这样的情况。现在有公司用不断升级的生成对抗网络改进后，这些问题相对变少了，但有时还是可以从一些背景形变，身体不对称之类的细节看出端倪。

细节是AI时常力有不逮的地方，比如下面这张图的直升机就没有尾翼。

此外，背景信息也有助于分辨照片真假，“比如你给我一张图，说是重庆山火的，如果发现这张图的最后修改日期在事件发生之后，那妥妥就是假图。我们有时还会联系背景信息，比如查图片中的直升机型号，等等。”

但她接触到的大多数工具都不会直接告诉你一张照片是真是假，需要靠人结合具体的情况去判断。

等AI作画的技艺越来越纯熟，分辨真假只会越来越费功夫。对真实的确定在松动。到时候，人们的脑海中或许会常常出现这样的声音：“这张照片看起来太真了，所以太假了。”

# 重庆  # 真是假  # 北碚  # 缙云  # 丘吉尔  # 科罗拉多州  # 这张  # 成了  # 换脸  # ai  # 潘多拉  # AI作画  # DALL·E 2  # stable diffusion  # 事件  # for  # midjourney 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 网络优化91478 】 【 技术知识72672 】 【 云计算0 】 【 GEO优化84317 】 【 优选文章0 】 【 营销推广36048 】 【 网络运营41350 】 【 案例网站102563 】 【 AI智能45237 】

相关推荐： AI对决：挑战AI上帝，探索信仰与科技的边界  佐糖AI抠图能否识别商品白底_佐糖AI电商白底图自动处理流程【教程】  股票 vs. ETF：解锁股市财富密码，新手投资完全指南  Zapier MCP：AI赋能工作流，释放Claude强大潜能  GitHub Copilot与Azure AI Foundry模型：加速AI编程实践  AI 3D建模革命：免费生成高质量模型和纹理  轻松生成二维码：免费AI工具终极指南  想做自媒体？教你用AI批量生成视频脚本，实现内容自由  tofai官网入口网站 tofai官网入口网页版  DeepSeek网页版怎么用_DeepSeek网页版使用方法详细指南【教程】  如何通过 DeepSeek 优化分布式存储系统架构  AI写作鱼怎么一键生成朋友圈文案_AI写作鱼文案风格切换与字数设置【指南】  tofai网页版官方入口 tofai官网登录网址  MediCa AI：AI赋能的智能医疗保健平台全面解析  Kling 2.0终极指南：AI视频创作秘籍，告别低质量  Google Gemini 在跨时区团队管理中的应用技巧  DeepSeek写合同怎么用_DeepSeek写合同使用方法详细指南【教程】  DeepSeek V3 本地部署对硬件要求的详细说明  VideoGen教程：AI视频生成器，无需拍摄快速制作视频  怎么用AI帮你写一份有说服力的加薪申请？  ATS优化：Euron ResumeAI打造高效求职简历  Depseek能否批量生成部门总结_Depseek多部门总结批量生成步骤【方法】  Filmora 13 AI音乐生成器：创意视频配乐新纪元  文心一言如何做本地生活探店文案 文心一言内容种草指南  如何用AI帮你检查代码中的潜在安全漏洞？  Character AI终极指南：构建你的人工智能伴侣，探索无限可能  AI Notebooks: 知识工作者的未来？赋能理解与洞察的工具  Vivo V50e 5G AI功能：最佳AI特性深度解析  提升阅读理解：策略、技巧和有效方法全面指南  教你用AI一键去除图片水印，操作简单效果惊人  千问如何切换回答风格_千问风格选择正式口语等【实操】  通义千问怎样写小红书文案_通义千问文案写作步骤【步骤】  智谱AI绘画怎么用_智谱AI绘画使用方法详细指南【教程】  LeetCode算法：最长公共前缀问题全面解析  Gemini怎样写实用型提示词_Gemini实用提示词编写【攻略】  千问怎么设置快捷指令_千问指令创建与一键调用【技巧】  AI时代设计师生存指南：职业发展、技能提升与未来趋势  豆包AI帮你写代码注释 豆包AI编程辅助教程  AI QA 工程：通往人工智能质量保障工程师的职业道路  快速生成PPT工具怎么用_快速生成PPT工具使用方法详细指南【教程】  AI Agent：颠覆传统工作模式的关键力量  寓言故事：狮子与老鼠，学习英语的趣味童话之旅  使用Autogen框架进行业务分析和执行报告生成  2025年必备：顶级AI工具，赋能您的日常工作和业务流程  怎么用AI帮你设计一套个性化的手机App图标？  Claude怎么用新功能诗歌创作_Claude诗歌创作使用【方法】  AI 驱动的潜在客户生成：终极自动化指南  3步教你用AI总结会议录音，再也不怕错过重点  ChatGPT 4.0赋能室内设计：20+实用技巧提升工作效率  DeepSeek如何编写Shell脚本 DeepSeek自动化运维指南 

 2023-04-11