MIT科学家发现：GAN会墨守人类社会的“陈规”， 拒绝执行调参指令

MIT科学家发现：GAN会墨守人类社会的“陈规”， 拒绝执行调参指令

 

 

道翰天琼认知智能机器人平台API接口大脑为您揭秘。对抗生成网络（GAN）是一种近年大火的无监督机器学习方式，可以基于真实的数据集生成假图像、音频或者视频。它创建的虚构内容足以以假乱真，伪造了很多名人假视频的 DeepFake 技术就是利用了这种技术。

 

与大多数机器学习模型一样，GAN 非常依赖用大量数据进行训练，否则其表现无法让人满意，但海量的数据并不容易获取。

 

最近，麻省理工学院（MIT）的研究人员发表了一项最新研究，通过深入挖掘 GAN 的内部工作原理，找到了可以在不重新训练的前提下，重写 GAN 模型的办法。只要改变特定参数，GAN 就会生成特征完全不同的图片，可以帮助研究人员创造出更多全新模型。

 

更重要的是，该研究还发现了一个令人惊奇的现象：虽然参数可以调整，神经元可以抑制，甚至规则也可以被重写，但 GAN 的 “世界” 中仍然存在一些很难改变的规则，就像根深蒂固的原则一样。比如 “门不会出现在天空中” 这一条，如果强行重写，也只能得出一个“长的像门的云”。

 

 

 

 

这说明模型内部存在某种内在逻辑，而且很可能是人类的训练数据“教给”GAN 的，然后成为了 GAN 对世界运作规律的理解。

 

为了了解 GAN 内部神经网络的连接方式，该研究的主要作者，MIT 博士生 David Bau 开始深入研究深层网络结构，同时筛查算法背后数百万条数学运算。他将 GAN 的神经活动记录下来，像剥洋葱一样一层层地观察其内部结构，并将所有的算法列出。

 

“就像开发人员在调试代码一样，将整个系统的工作过程可视化，”Bau 表示。

 

经过几个月的实验，研究团队意识到，在 GAN 创造的内容中，有一些特定特征的神经元被单独编码。它们已经学会了绘制特定特征，如果直接改变它们，就能改变算法最终生成的内容，将其编辑成自己想要的样子。

 

打个比方，用户可以在搜索负责生成云的神经元集，然后改变其参数，从而在天空中添加更多的云，或者擦除所有的云。类似的效果还能用于添加窗户，删除前景的车和人等等。

 

研究人员将这个研究成果称为 GANPaint，去年就已经在网上开源。

 

他们最初认为，这一发现为 GAN 的使用打开了一扇新大门，创造出的内容只会受到人类想象力的限制。普通人甚至无需了解机器学习，只要更改各种参数，激活或抑制某些神经元，就会涌现出天马行空的创意。

 

但事情并没有这么简单，Bau 的团队很快发现，他们试图调整的某些参数似乎没有被 GAN 所接纳。

 

“如果让 GAN 在天空中画一扇门，它会先接受这个请求，然后再否决并拒绝执行，”Bau 解释道，“因为这不现实。”

 

在一个算法创造的虚拟世界里，GAN 怎么知道 “门在天上飘” 不符合人类世界的规则？

 

在更加深入神经网络的深层结构之后，研究团队发现神经网络中存在不同的记忆库，作为通用规则发挥作用，联系自己学到的模型。也就是说，GAN 会发展出联想记忆。

 

这种记忆是在接触足够多的例子（数据）之后形成的——数据之间的关联以记忆的形式储存在模型中。在输入大量的门和云的图片后，模型就会知道门是建筑物的一部分，而云是飘在天上的。

 

另外一个经典例子是房屋内的光线。当 GAN 为一个没有窗户的房间加上窗户后，它还会自动补上附近物体表面的漫反射，显示出对物理原理的直观理解，即使它不知道什么是光，也对人类世界的物理原理一窍不通。

 

定位到这些记忆库之后，研究人员就可以像之前一样操纵算法，类似于擦除和添加新的记忆。

 

研究人员以眉毛为例，改写了 GAN 对眉毛设定的规则，并将胡子的样子植入其中。在随后生成的人脸图片中，眉毛就变成了跟胡子差不多的样子。

 

他们还设计了一个更直观的交互界面来编辑和重写 GAN 的记忆，允许用户自行剔除图片内容，改变规则，进而创造新的模型。

 

不过目前这一技术仍有局限性：GAN 仍然很顽固。

 

Bau 解释称，现在让算法在空中画一扇门，出来的结果看起来很像云。原因是它对天空中物体的几何形状的理解仍受到训练数据的影响。

 

这反映出 GAN 想创建一个与我们所处世界不同的环境是多么的困难。更进一步想，我们也能看出，GAN 或者其他机器学习模型，通过人类数据认识这个世界的时候，在很多方面都会生成根深蒂固的规则，也包括缺陷和偏见。

 

“这限制了它的能力，令我感到担忧，也是真正的挑战，”Bau 表示。他希望未来进一步突破算法的瓶颈，提高人类想法和想象力在技术中的重要性。

 

如果艺术家可以成为算法的老师，为它们创造一些富有想象力的不存在的世界，或许就能更好地激发其潜力。

 

 

道翰天琼认知智能未来机器人接口API简介介绍

• 认知智能是计算机科学的一个分支科学，是智能科学发展的高级阶段，它以人类认知体系为基础，以模仿人类核心能力为目标，以信息的理解、存储、应用为研究方向，以感知信息的深度理解和自然语言信息的深度理解为突破口，以跨学科理论体系为指导，从而形成的新一代理论、技术及应用系统的技术科学。 认知智能的核心研究范畴包括：1.宇宙、信息、大脑三者关系；2.人类大脑结构、功能、机制；3.哲学体系、文科体系、理科体系；4.认知融通、智慧融通、双脑(人脑和电脑)融通等核心体系。 认知智能四步走：1.认知宇宙世界。支撑理论体系有三体（宇宙、信息、大脑）论、易道论、存在论、本体论、认知论、融智学、HNC 等理论体系；2.清楚人脑结构、功能、机制。支撑学科有脑科学、心理学、逻辑学、情感学、生物学、化学等学科。3.清楚信息内涵规律规则。支撑学科有符号学、语言学、认知语言学、形式语言学等学科。4.系统落地能力。支撑学科有计算机科学、数学等学科。
  认知智能CI机器人是杭州道翰天琼智能科技有限公司旗下产品。认知智能机器人是依托道翰天琼10年研发的认知智能CI体系为核心而打造的认知智能机器人大脑，是全球第一个认知智能机器人大脑。具有突破性，创新性，领航性。是新一代智能认知智能的最好的产品支撑。 认知智能机器人技术体系更加先进，更加智能，是新一代智能，认知智能领域世界范围内唯一的认知智能机器人。 认知智能机器人是新时代的产物，是新一代智能认知智能的产物。代表了新一代智能认知智能最核心的优势。和人工智能机器人大脑相比，优势非常明显。智能度高，客户粘性大，客户满意度高，易于推广和传播等核心特点。 依托认知智能机器人平台提供的机器人大脑服务，可以赋能各个行业，各个领域的智能设备，各类需要人机互动的领域等。认知智能机器人平台网址：www.weilaitec.com，www.citec.top。欢迎注册使用，走进更智能机器人世界。
  认知智能和人工智能的优劣势对比主要可以分为四大方面： 第一：时代发展不同。人工智能是智能时代发展的第二个阶段，认知智能是智能时代发展的第三个阶段。时代发展上决定了认知智能更显具有时代领先性。 第二：基础理论体系不同。人工智能的基础理论体系以数学为基础，以统计概率体系为基础。认知智能基础理论体系以交叉许可理论体系为基础。包含古今中外哲学体系，心理学体系，逻辑学体系，语言学体系，符号学体系，数学体系等学科。其基础理论体系更加具有创新性，突破性和领先性。且交叉学科理论体系的研究也是未来智能发展的大方向。其具体理论体系，还包含三体论（宇宙，信息，大脑三者关系），融智学，和HNC等。 第三：技术体系不同。人工智能的核心技术体系主要是算法，机器学习，深度学习，知识图谱等。其主要功用在感知智能。感知智能其核心主要是在模仿人类的感知能力。认知智能的核心技术体系是以交叉学科理论体系而衍生出来的。具体包含三大核心技术体系，认知维度，类脑模型和万维图谱。认知智能的技术体系核心以类脑的认知体系为基础。以全方位模仿类脑能力为目标。人工智能以感知智能为基础的体系，只能作为认知智能中的类脑模型技术体系中的感知层技术体系。类脑模型大致包含，感知层，记忆层，学习层，理解层，认知层，逻辑层，情感层，沟通层，意识层等9大核心技术层。因此人工智能的核心只是作为认知智能类脑模型中的感知层。因此在技术体系上，人工智能和认知智能基本上没有太多的可比性。 第四：智能度成本等方面的不同：人工智能产品的综合智能程度，普遍在2-3岁左右的智力水平。认知智能产品其智能程度大致在5-8岁左右。认知智能体系构建的机器人更加智能。且更省时间，更省人力和资金。优势非常多。具体请看下列的逐项对比。

道翰天琼CiGril机器人API

道翰天琼CiGril认知智能机器人API用户需要按步骤获取基本信息：

1. 在平台注册账号
2. 登录平台，进入后台管理页面，创建应用，然后查看应用，查看应用相关信息。
3. 在应用信息页面，找到appid,appkey秘钥等信息，然后写接口代码接入机器人应用。

开始接入

请求地址：http://www.weilaitec.com/cigirlrobot.cgr

请求方式：post

请求参数：

参数	类型	默认值	描述
userid	String	无	平台注册账号
appid	String	无	平台创建的应用id
key	String	无	平台应用生成的秘钥
msg	String	""	用户端消息内容
ip	String	""	客户端ip要求唯一性,无ip等可以用QQ账号，微信账号，手机MAC地址等代替。

 

接口连接示例：http://www.weilaitec.com/cigirlrobot.cgr?key=UTNJK34THXK010T566ZI39VES50BLRBE8R66H5R3FOAO84J3BV&msg=你好&ip=119.25.36.48&userid=jackli&appid=52454214552

注意事项：参数名称都要小写，五个参数不能遗漏，参数名称都要写对，且各个参数的值不能为空字符串。否则无法请求成功。userid,appid,key三个参数要到平台注册登录创建应用之后，然后查看应用详情就可以看到。userid就是平台注册账号。

示例代码JAVA：

import java.io.ByteArrayOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.net.HttpURLConnection;
import java.net.URL;

public class apitest {

    /**
     * Get请求，获得返回数据
     * @param urlStr
     * @return
     */
    private static String opUrl(String urlStr)
    {        
        URL url = null;
        HttpURLConnection conn = null;
        InputStream is = null;
        ByteArrayOutputStream baos = null;
        try
        {
            url = new URL(urlStr);
            conn = (HttpURLConnection) url.openConnection();
            conn.setReadTimeout(5 * 10000);
            conn.setConnectTimeout(5 * 10000);
            conn.setRequestMethod("POST");
            if (conn.getResponseCode() == 200)
            {
                is = conn.getInputStream();
                baos = new ByteArrayOutputStream();
                int len = -1;
                byte[] buf = new byte[128];

                while ((len = is.read(buf)) != -1)
                {
                    baos.write(buf, 0, len);
                }
                baos.flush();
                String result = baos.toString();
                return result;
            } else
            {
                throw new Exception("服务器连接错误！");
            }

        } catch (Exception e)
        {
            e.printStackTrace();
        } finally
        {
            try
            {
                if (is != null)
                    is.close();
            } catch (IOException e)
            {
                e.printStackTrace();
            }

            try
            {
                if (baos != null)
                    baos.close();
            } catch (IOException e)
            {
                e.printStackTrace();
            }
            conn.disconnect();
        }
        return "";
    }
    
    
    public static void main(String args []){        
            //msg参数就是传输过去的对话内容。            
            System.out.println(opUrl("http://www.weilaitec.com/cigirlrobot.cgr?key=UTNJK34THXK010T566ZI39VES50BLRBE8R66H5R3FOAO84J3BV&msg=你好&ip=119.25.36.48&userid=jackli&appid=52454214552"));
            
    }
}