发件人:Vladimir Vuković [pcs.scitylana|kuvv#pcs.scitylana|kuvv]
收件人:Dean Ackermann [pcs.4um.ftm|nnamrekcad#pcs.4um.ftm|nnamrekcad]
主题:修复美杜莎
Dr. Ackermann:
你介意让Mu-4看一下美杜莎吗?这事很紧急。我们对现在的问题毫无头绪——当然我们习惯了对付异常,但现在的15k份3334-1卡通女孩实例让我的执行小队很困扰——网络能正确将它们识别为视觉模因异常,但却发现不了它们之间的共通点。那肯定是个很轻微的模因效应,但我确定这只是更大问题的征兆。
理论小队有人说你之前做过类似异常的收容工作,或许我们能在你这找回运气。
此致,
Dr. Vuković
美杜莎计划负责人
发件人:Dean Ackermann [pcs.4um.ftm|nnamrekcad#pcs.4um.ftm|nnamrekcad]
收件人:Vladimir Vuković [pcs.scitylana|kuvv#pcs.scitylana|kuvv]
抄送:Mary Wang [pcs.4um.ftm|gnawm#pcs.4um.ftm|gnawm]
主题:回复:修复美杜莎
嘿Dr. Vuković,
这是优先事项了,毕竟其他计划和收容小队都交来美杜莎坏掉的票了。
很有趣。我猜你那搞理论的在说SCP-2223。我看到两个问题的相似性了,事实上我猜它们都是Celeramis干的(我们确定上一年的Mirai物联网恶意软件就是他们搞的,看来他们挺喜欢动画)。但是,我主要做传统算法而不是热门的深度学习。我会抄送给Mary让她看看,她在Google DeepMind干过所以应该知道些事。她也和我处理过2223,如果这也有关系的话。
此致,
Dean
MTF Mu-4 调试器
发件人:Mary Wang [pcs.4um.ftm|gnawm#pcs.4um.ftm|gnawm]
收件人:Vladimir Vuković [pcs.scitylana|kuvv#pcs.scitylana|kuvv]
抄送:Dean Ackermann [pcs.4um.ftm|nnamrekcad#pcs.4um.ftm|nnamrekcad], Samhita Reddy [pcs.4um.ftm|ydderhs#pcs.4um.ftm|ydderhs], Achmed Hafizyar [pcs.4um.ftm|zifah#pcs.4um.ftm|zifah], Kelly Fitzgerald [pcs.scitylana|ztif#pcs.scitylana|ztif]
主题:回复:修复美杜莎
所有人:
天啊,什么乱七八糟的。我作为深度学习研究者从未想象过基金会会将那么多关键操作委托给像美杜莎那种易变的算法上。
我不太同意Dean,除了表面上的相似,它们完全是两个不同的技术问题。2223是彻头彻尾的异常,就算是像素级重建或者用SIFT这种正常的东西都处理不了它。另一方面,“原型”深度学习AI很蠢,容易被愚弄。也许你的15k份图像是类似于2223,我不清楚,但我怀疑这一点,像那样的异常工程很费功夫而要做那么多图像?
实际上你的问题有一个完全科学的、非异常的解释,它被称为对抗图像(先说清楚,你在说的图像只是恰好是个异常模因)。让我附上Szegedy论文的一张图。你和一个典型的卷积神经网络都会认同左边是校巴,本就该那样。但像中间展示那样在上面添加一些战略性噪声后,你会得到右图。它仍然是校巴,但现在大部分神经网络都会认为它是鸵鸟。简单的非异常把戏就能搞烂蠢笨如牛的深度神经网络。
长话短说,有人(这里我同意Dean,可能是Celeramis)故意输入垃圾来摆脱美杜莎的预测。你能注意到15k份奇怪图像的异常模因效应是极弱的。这些大体上“勉强算模因”的东西是设计来扭曲我们的决策边界并迷惑试图区分VMC与正常图片的网络的。不和你说那么多术语了,图像画了一堆橙色的苹果然后教小朋友说它们是橙子。
让我想一个更长期的解决方案。为此我会抄送给Achmed和Samhita。同时只要将网络复制粘贴几次然后做个集成,听起来容易得不像真的但那会减少方差,对付一些错误。现在是多少,85%来着?可能足够我们摆脱它或者让这次失效事件结束了。为此已抄送给你们执行小队的Dr. Fitzgerald。
Dr. Wang
AI部门,MTF Mu-4 “调试器” 特工
附件:
发件人:Vladimir Vuković [pcs.scitylana|kuvv#pcs.scitylana|kuvv]
收件人:Mary Wang [pcs.4um.ftm|gnawm#pcs.4um.ftm|gnawm]
抄送:Dean Ackermann [pcs.4um.ftm|nnamrekcad#pcs.4um.ftm|nnamrekcad], Samhita Reddy [pcs.4um.ftm|ydderhs#pcs.4um.ftm|ydderhs], Achmed Hafizyar [pcs.4um.ftm|zifah#pcs.4um.ftm|zifah], Kelly Fitzgerald [pcs.scitylana|ztif#pcs.scitylana|ztif]
主题:回复:修复美杜莎
Dr. Wang:
非常感谢您Dr. Wang。我认为执行小队发现了那个解释很有帮助,我会让Dr. Fitzgerald马上实行您的建议。
我确实得承认美杜莎的稳定性离期望甚远,但恐怕我们现在没有其他选项了。互联网上有那么多东西要检阅,基金会又发出那么多请求,我们真的回不去过去仅仅将D级扔给那些VMC的日子。
此致,
Dr. Vuković
美杜莎计划负责人