人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响.以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变.人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区.深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓"数字反噬".人工智能造成"短期失业、长期增业"论不能成立,通能革命势必引发大规模失业,可谓"通能塔诅咒"."奇点到来还很遥远"这一判断是错误的,人工智能"还没有超过人类智能""还没有自主意识",并不等同于AI没有威胁人类安全.只要AI或利用AI可造成毁灭性灾难,即可认为"奇点"来临,至少广义的"奇点"——"畸点"已临.AI for Science导致的最大风险是辅助或自主生产"致毁知识",对它而言,科技伦理形同虚设.初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓"全押归零的人工智能赌局".因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变.

通能革命;人工辅能;人工智能B模式;科技风险剧增理论;人类安全;科技重大风险;畸点已临;致毁知识

刘益东

中国科学院 自然科学史研究所,北京 100190

山东科技大学学报（社会科学版）

[1]刘益东-.数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考)[J].山东科技大学学报（社会科学版）,2022(06):1-13

全押,赌局,通能革命,致毁知识,科技风险剧增理论,人工辅能,科技重大风险,畸点已临

反噬,诅咒,归零,智能革命,治理问题,若干思考,科技革命,并列,会前,巨变,伦理治理,收效甚微,深陷,认识误区,深度信息,边际收益,人因,受生,超人,反客为主,害人,失业,势必,奇点,遥远,人类智能,自主意识,等同于,人类安全,毁灭性,灾难,少广,最大风,自主生产,科技伦理,形同虚设,好处,终将,毁于一旦,助人,AAI,高智慧,慧能

0.305102