Is an AGI Possible?
...
本文节选编译自《第四时代》。其实如大多数讲人工智能的书籍一样，《第四时代》讨论了机器人和人工智能的应用，但这本书引发了鲍勃·梅特卡夫（Bob Metcalfe，以太网和美国3Com公司创始人）的思考：这是在我们这个时代最为深刻也最具想象力的问题，一千个人心中有一千种AI的应用，读者可以用长达十万年的人类历史和八卦作为引子，可以做出自己的认知，可以是机器人、自动化生产，可以不再工作任由新的饲养员养活人类，终于可以进入共产社会，甚至于你管你的执子之手，我宁愿自己长生不死的爱情终结。
强人工智能（AGI）是否可实现？其实大多数吃人工智能这口饭的人相信AGI能够成真（AGI不是SIRI那种一问一答最终沦为调戏工具的玩笑，而是具备和人类同等智慧甚至超越人类的人工智能，能够正常表现人类所具有的一切智能行为），虽然大多数人都不知道什么时候会出现，在《第四时代》节选里，拜仁里斯（Byron Reese）认为这是一个无限开放的命题，也探讨了纠结大多数人的问题——它是否可能，我们是否是在通往罗马的正确道路上？
图片|来源网络
AI的尽头
会是AGI吗？
人工智能将何去何从？
简单点说，不知道。看起来比特朗普还不靠谱。AGI现在压根不存在，not even close，只不过大多AI人士对此仍旧保持乐观态度。Byron在podcast主持过一档节目叫《AI之声》，他对参加这档节目的嘉宾都会问这个问题，70个里只有6、7个相信AGI必将出现，不过对于AGI实现的时间却是莫衷一是。
AGI必须展现所有不同种类的人类智能，比如社交、情绪，思考过去和未来的能力，夸赞或者吐槽，还需要有真正的创造能力。历史学家杰奎斯巴森（Jacques Barzun）曾经说，如果电脑能讽刺他，他就相信AGI确实存在（小编按：如果他听到天猫机器人让他吃火锅底料不知道会是什么表情），例如电脑在我们叫它‘人工’的时候被惹恼，还能讽刺‘你才人工，你全家都人工’。
图片|日本推出的做菜机器人
有人问，AGI只是更强一些的弱人工智能吗？如果我们连接大量弱人工智能直到能覆盖所有人类的行为，能以此来创造一个AGI吗？比如我们有扫地机器人，有一个可以帮着炒股的，一个能开车的，一个会做菜的，还有会做羞羞的事情的机器人等等等等，然后我们把它们都连接起来，能够解决人类社会的问题吗？理论上讲，这样做出来的东西可能会是下一个计生专员灭霸小哥哥。
实际上这并不是通往AGI的正确道路，“智能”的概念不是可以做一万件不同事情的机器人，“智能”是以全新的形式整合一万个事件，傻瓜式的拼凑得到的可能是一个超级无敌会做饭能打电话帮你请假的抽油烟机，“智能”应该是运用做其中一件事情的智商，去处理一项全新的任务，也就是我们常说的举一反三。
图片|美剧《行尸走肉》剧照
更多的人认为要做一个AGI的想法相比于现在的siri等弱人工智能来说是更冒险的行为，现阶段弱人工智能仍然处在一个安全状态，我们能够很开心的发现“我的天，我造出来的东西还能干这个”，它不违反任何伦理道德，它不伤害谁（小编按：当然要界定“伤害”，AlphaGo击败人类，还是伤害了李世石和柯洁），它不能教自己它没被设定的东西。但是AGI完全不同，它会自己选择喜欢韩剧还是日剧，支持DC还是粉漫威，它能学习。
好比爱因斯坦和僵尸，他们都有头有手有脚，爱因斯坦能写E=mc2，僵尸只能四处呻吟游荡，吃脑子或者做主角的背景墙。我们今天有点人工智能僵尸了，问题是，我们能造出一个人工智能爱因斯坦吗？如果可以的话，我们能当它是真的爱因斯坦吗？还是依旧给它一个编号爱因斯坦No.888？
图片|AlphaGo对战柯洁
关于AGI的
两个问题
迄今为止的论述中，AGI是没有意识的，它不能真实感受到周遭带来的喜怒哀乐，所以AGI自己并没有动机制造人类的生存危机（如果真的有这种可能，人类对这件事情的防备会有多深？一颗核弹尚且不能毁灭全球，一个有可能毁灭人类的事件，即使只是存在在推论中，人类都不会将它造出来。）。子非鱼安知鱼之乐？AGI自然会促使我们反复问自己：它活着么？我们存在的意义呢？这种终极哲学必然会冲击固有价值观，也许AGI会有惊世骇俗的回答。
图片|来源网络
关于第一个问题，AGI是不是活的？谁也没有笃定的答案。一个人有意识不是生命的前提，事实上只有很小一部分的生命是有意识的，身体里的每一个细胞也是活的，但是你不能发功告诉他们你们乖乖的噢。不然癌细胞一定就是那个不听话的孩子。
所以什么才能决定一个东西是否真的“活着”？人类并没有达到一个定义上的共识，我们甚至没有在茫茫宇宙里找到另一个智慧体能够交流生命之道，别说生，就连死也没有明确定义。虽然何谓“生”并没有共识，但是有很多特质是确定的，比如能成长能繁殖，能将特质遗传给后代，能够进行代谢，能对外界的刺激做出反应。不过有两个特点是AGI没有的，一个是由细胞构成，另一个是会呼吸。不过这个特点仅狭义于地球的碳基生命，如果哪天一外星人跑来不是细胞构成也不靠氧气活着，那我们对AGI的要求干嘛还要这么苛刻。
图片|《副本》剧照
科学上如此定义，那形而上学则又如何？依旧没有共识。哲学思考并没有花大量时间去研究生命的边缘案例，比如说病毒，几百万年前停滞了但是最近苏醒的病毒是“活着”吗？或者是它们死了又复活呢？
既然关于生命的定义都存在争议，那我们也不会得到一个跨生物的共识。倒不如我们自己去问AGI，你有生命吗？看它到底是讽刺你还是反问，你呢？到时候你再在生或死的分界线上动摇也不迟。
至于第二个问题：我们的存在意义是什么？
接下来的几十年甚至于几个世纪都会问自己，人类的意义是什么…人择理论认为只有创造出人类才会问出这样的问题，可我们自己还是不知道。也许AGI的到来能给我们最大的好处就是帮我们定义，我们到底是什么。
永远
徘徊在生与死的边缘
近千年我们之所以处在地球的食物链顶端，是因为我们和周围的物种相比是最聪明的，我们不是最大的、最快的、最强壮的，也不是活的最久的，但是我们是最聪明的。因为聪明才智我们才成为这个星球的统治者，统治者孤独久了就会寻求同类，也无比害怕被统治。如果因为AGI，我们成了第二聪明的物种会怎样？如果机器人能够更好的操纵这个物质世界，我们的存在职能又是什么呢？
图片|来源网络
我们经历着这个世界，喜悦，好奇，敬畏，也恐惧，我们确认自己会消亡，也珍惜生命的珍贵。
有一则寓言，一个人被一只老虎追到悬崖边，他跳下了悬崖并抓住悬崖边的藤蔓，悬崖下是另一只老虎，这时一只老鼠跑了出来开始啃藤蔓磨牙。但就在这个时候，这个人发现了藤蔓边有一株草莓，他这一生都未曾尝到如此美味的东西。这一刻，意识与生死结合，可能这就是能定义人类的东西吧。我们在悬崖之上，品尝美味的草莓，也因我们能够感受其中，也永远徘徊在生与死的边缘。
原作者|Byron Reese 《The Fourth Age》
翻译|徐唱
编辑|三七
乌镇智库 资讯推荐
