英国牛津大学教授尼克·波斯特罗姆在著作《Super Intelligence》中提出，人工智能会朝超级智能（Super Intelligence）的方向转变。

不少学界、产业界人士袒露担忧。以英国科学家史蒂芬·霍金及微软创始人比尔·盖茨为代表的一种声音认为，“如果若干年后机器发展得足够智能，终将成为人类的心头大患。”

然而以微软资深副总裁、微软亚太研发集团主席洪小文为代表的另一种声音则认为，人工智能作为被人类创生的一种工具、技术，没有人也便没有AI，因为AI里面的想法、算法全部来自人类，而人类没有AI也可以生存。

这种声音背后的逻辑是：由于跑得不够快，于是人类创造汽车，这个发明让人步伐加快。人类不会飞，于是制造了飞机，让它们带人类上天。类似地，人类具有计算能力，但是算得不够快不够精准，于是便发明计算机，把算法和计算机相结合，即让人工智能AI与人类智能HI联合，达到超级智能（SI），以承担人类无法单独完成的事。

洪小文说，人类最了不起的东西叫作创新、创造。在古往今来的创造历程中，人类采取的一贯策略是大胆假设、小心求证。而这其中，大胆假设的创造力来自于人类，小心验证的使命交给计算机，并在验证过程中反复修改我们的假设，修改我们的想法，最终就能创造出新的东西。“如果说将来社会真的一定有超级智能（Super Intelligence），想必是通过人类智能（HI）+人工智能（AI）融合后达到的。”

进化是智慧化、智能化的缘起。人类作为高级哺乳动物，虽拥有令人惊叹的结构复杂的神经元，然而与电子电路相比，它并不是一个处理信息的好手，速度尚未达到电子电路的100万分之一。

不过经过漫长进化的聪明人类早已在历史经验中习得：敌人越少越好。如果AI显现出神力，不妨联手，将它变为朋友。

人机协同融合分几步走？

移动终端、互联网、传感器网、车联网、穿戴设备的流行，令感知设备很快将在全球范围内流行开来。计算与人类密切相伴，而网络作为个体和群体的联结者，将快速聚集并反馈出他们的发现、需求、创意、知识和具备的能力。

中国工程院原常务副院长潘云鹤提出，用计算机来模拟人的智能固然重要，而让计算机与人协同，取长补短而成为一种“1+1>2”的增强性智能系统则更为重要。当前，各种穿戴设备、智能驾驶、外骨骼设备、人机协同手术等纷纷出现，而宏观系统的人机协同有更大空间，预示着人机协同增强智能系统的前景广泛。