南方财经全媒体记者 陈思琦 深圳报道
“机器人不得伤害人类个体，必须服从人给予它的命令，在不违反前述二者的情况下尽可能保护自己的生存。”
1950年，科幻小说作家艾萨克·阿西莫夫在《我，机器人》中提出“机器人三定律”，让世界警惕技术进步带来的反噬与反叛风险。
连日来，“AI教父”杰弗里·辛顿（Geoffrey Hinton）从谷歌离职、马斯克联合近千科技人员呼吁未来6个月暂停训练巨型GPT模型——ChatGPT浪潮下，人工智能伦理争议愈发激烈，“三定律”有了衍生意义。
“ChatGPT使社会系统结构发生变化，要求我们更注重人机关系研究。人工智能不再是单纯的辅助工具，而是走向了人机融合、人机平衡。”
在5月5日于深圳大学举办的“智慧城市与数字经济交叉学科高端论坛”上，华中科技大学特聘教授、中国管理科学与工程学会副理事长*卫作为首位发言者，以对人机关系的关注开启了接近3小时的圆桌讨论。
与会专家认为，ChatGPT等技术可为管理学、心理学、地理学等领域研究提供极大帮助，但随之而来的技术伦理问题要求我们关注立法，以完善的制度法规约束AI的无序发展。
另一方面，技术的迅猛进步对人才培养提出新的挑战。25年前，诞生于深圳的腾讯被认为破解了互联网“密玛”。如今培养破解AI“密玛”的创新团队，深圳具土壤，要求高校从源头上推进科技与人文的双轮驱动，重构教育*以培养更多具备跨学科素养的“多面手”。
实现可控、有边界的AI发展
ChatGPT横空出世，能以极快的速度回答各种领域的问题，被认为大大提高了人类的工作效率与生活质量。
然而，直接引用ChatGPT答案会产生极大的伦理风险，如个人隐私侵犯、虚假信息传播等。离开谷歌的辛顿也坦言，网上充斥的虚假图片、视频和文字，将让普通人“无法再辨别真假”。
论坛上，中国人民大学信息学院教授、中国计算机学会会士孟小峰指出，当前ChatGPT“吃”掉的素材全是人类的知识成果，与人类自身吸收、学习的素材同源，而人类消化了同样的信息可能无法生成与ChatGPT同等质量的答案。
“核聚变是毁灭人类的，‘可控的’核聚变才可被人类应用。人工智能同样不能直接服务于经济社会，需要像核聚变一样探索一个可控的、有边界的机制。”
孟小峰认为，不能单纯从伦理角度“一刀切”地认为ChatGPT生成的结果不可接受，人工智能也需要一套可控的技术*。
深圳大学党委书记、光明实验室主任李清泉则强调了法律约束的重要性。技术发展的“可控”需要加强顶层设计和规划，从法律法规到产业扶持都需进一步完善，尤其法律的约束对象要从“人”拓展到人工智能。
以智能驾驶为例，即使技术达到相对成熟的水平，其大规模推广也面临着复杂城市路况带来的高度不确定性与道德伦理困境，事故权责归属问题尤为棘手。
在这方面，深圳发挥经济特区立法优势，于20*8月出台实施全国首部智能网联汽车管理法规《深圳经济特区智能网联汽车管理条例》，全国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》也于去年11月正式生效。
学界与业界也持续发力。李清泉透露，以深圳大学为牵头建设单位的人工智能与数字经济广东省实验室（深圳）（即光明实验室）正在探索与保险公司合作，生成无人驾驶的保费模型。
推进科技与人文的双轮驱动
“艺术与科学总是在山脚下分手，又在山顶上相遇。”正如法国作家福楼拜所言，科学思维与艺术思维是相辅相成、相得益彰的。
与会专家认为，ChatGPT对高校人才培养带来了新的机遇和挑战，要求重构教育*，重视科技与人文双轮驱动，培养学生成为具备多学科素养的“多面手”。
北京大学计算机学院教授、中国计算机学会会士李晓明提到，其曾在北京大学开设通识课程“社会科学中的计算思维方法”“社会科学问题研究的计算实践”等，培养人文社科学生的计算思维。
如今担任大湾区大学（筹）科教负责人，李晓明透露，该校拟面向全校开设一门为期一年的计算机通识课，而这将是一门“认真的通识课”，帮助学生迈出舒适圈，推进理工科与人文社科更紧密地融合。
华东师范大学心理与认知科学学院院长周晓林提出，ChatGPT在很多方面的行为表现与人非常相似，但在心理学领域，还缺乏“机器人心理学”这类二级学科。
周晓林举例说，机器人行走的角度与速度不同，与人类发生碰撞的可能性不同，人类由此产生的心理认知也有很大差异。因此，建议高校设置“机器人心理学”等前沿学科，探索将人类的心理特性融入机器人设计中，让心理学更好赋能技术进步。
“ChatGPT成功的背后，是一帮年轻人掌握了‘密玛’。我们要培养潜心修炼、能够破解AI‘密玛’的创新团队，而深圳有培养这种团队的土壤和条件。”孟小峰对曾孕育出腾讯，在互联网浪潮中取得先机的深圳寄予厚望。
深圳大学作为深圳高等教育“长子”，李清泉透露，该校正探索将ChatGPT等技术与教育信息化结合，为传统教育赋能。
“公立大学受限于成本，长期以来难以实现个性化教育。而ChatGPT可以根据学生的基础条件、素质、爱好等，生成其所需要的课程，并根据其学习过程展开评价，对后续的学习提供有针对性的帮助。深大希望在这方面积极探索，起到引领作用。”李清泉表示。
更多内容请下载21财经APP
以上就是【走出AI伦理困境 专家建言ChatGPT要“有边界”】的相关内容，查看其它ai资讯请关注微咔网
根据二〇〇二年一月一日《计算机软件保护条例》第十七条规定：为了学习和研究软件内含的设计思想和原理，通过安装、显示、传输或者存储软件等方式使用软件的，可以不经软件著作权人许可，不向其支付报酬。
本网站所有发布的源码、软件和资料，均为作者提供或网友推荐收集各大资源网站整理而来，仅供功能验证和学习研究使用。
所有资源的文字介绍均为网络转载，本站不保证相关内容真实可信，同时不保证所有资源100%无错可用，也不提供相应的技术支持，介意勿下。
您必须在下载后24小时内删除，不得用于非法商业用途，不得违反国家法律，一切关于该资源的商业行为与本站无关。
如果您喜欢该程序，请支持正版源码，得到更好的正版服务。、如有侵犯你的版合法权益，请邮件与我们联系处理【投诉/建议发送至邮箱：3066548754@qq.com】，本站将立即改正并删除。
本声明为本站所有资源最终声明，所有与本声明不符的表述均以本声明内容为准。
微咔网 » 走出AI伦理困境 专家建言ChatGPT要“有边界”
