高校科技伦理教育的三重原则******

　　【专家视角】 

　　作者：谢惠媛、常舒铭（分别系北京航空航天大学马克思主义学院教授，北京航空航天大学马克思主义学院硕士研究生）

　　随着科技的快速发展，科技伦理治理问题日益成为社会各界的关注重点。加强科技伦理治理，需要发挥教育的基础性和关键性作用。中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》（以下简称《意见》）明确指出，要重视科技伦理教育，“将科技伦理教育作为相关专业学科本专科生、研究生教育的重要内容，鼓励高等学校开设科技伦理教育相关课程，教育青年学生树立正确的科技伦理意识，遵守科技伦理要求”。作为培育科技创新领军人才的重要摇篮，高校应加快推进科技伦理教育，把科技伦理纳入教学，培养德才兼备、可堪大用、能担重任的栋梁之才。

　　高校科技伦理教育要取得成效，不仅要遵循科技伦理治理的总体要求，而且要尊重教学规律，聚焦教育对象特点。具体而言，应遵循制度与意识并重、目标与责任并重、规制与引领并重等三项原则。

　　制度与意识并重

　　制度具有规范性和导向性，是开展有效治理的重要保障。然而，单凭制度本身不足以激发遵守规范的自觉，不足以从源头上遏制违法违规行为的发生。事实上，一项制度的贯彻落实从根本上需要深层的伦理意识和道德观念作支撑。就行为性质而言，行为之所以被称作是道德的，主要是因为行为者具有道德认知和伦理自觉，自愿恪守道德规范，而不仅仅是因为行为表现得合乎道德。诚如冯友兰所指出的那样，道德行为是“对于道德价值有觉解，为道德而行的行为”。就制度现状而言，目前我国科技伦理规范和标准有待完善、治理体系尚未成形，与科技发展相伴随的新问题往往倒逼制度作出回应，催生新的规则。在转型升级阶段，伦理意识尤为必要且重要。可以说，不管是制度出台前，还是制度执行过程中，科技伦理意识都是最后一道，也是最根本的一道防线。培养伦理意识与加强制度规范，共同构成科技伦理治理不可忽视的着力点。

　　围绕科技伦理治理的着力点，高校科技伦理教育应双管齐下，激励学生把外在的规范转化为内在的需要。有调查表明，一些理工科学生对科技伦理抱有偏见，不重视学习规章制度，或者理解不全面、不透彻，处于“熟知而非真知”的状态。鉴于此，教师应一方面向学生系统讲解我国相关道德准则和法律法规，介绍国际社会伦理建议书或伦理指南，帮助他们明确科技活动有制可依、有规可守，另一方面给他们讲解道德的本质和功用等基本原理，并借助情景模拟或场景再现等方式，引导他们思考该情境中存在的伦理问题，使其强化伦理信念，做到知其然、知其所以然、知其所以必然，从而在价值理念上捍卫科技伦理的权威性。此外，高校还可通过辩论赛、知识竞赛、社会调研和网络宣传等多种形式，营造教育氛围，多渠道帮助学生把制度规范内化于心，自觉以制度为准绳，在科技活动中始终保持伦理敏感度，发现与抵制违反科技伦理要求的行为，在个体层面真正做到伦理先行。

　　目标与责任并重

　　科学研究与技术应用是有目的性的行为活动。这些目标不仅指向物的推进，关乎某一特定科技领域的突破，同时也应指向人的发展，体现“术”与“道”的有机统一。就《意见》而言，科技伦理治理的总体目标、科技伦理原则等，都不同程度地体现了对人之发展的高度重视。明乎此，才能理解“科技无禁区”的谬误，避免陷入技术“价值中立论”陷阱。与正确理解目标同样重要的是培育责任感。责任与目标紧密相连，在强烈的社会责任感驱动下，科技活动更有可能减少“脱靶”概率、降低伦理风险，更好地服务于人的发展。目标与责任相辅相成，充分体现科技伦理的落脚点。

　　着眼于科技伦理的落脚点，高校科技伦理教育应帮助学生全面深入地把握科技活动的目标，培养与提升社会责任感。当前，一部分大学生单纯关注技术的推进，却忽视技术的根本指向，忽略人的发展问题。他们认为应严格区分研究与应用，主张前者在价值上是中立的，不应为其设置禁区，也无须承担社会责任。但通观生命科学、合成生物学和人工智能等高新技术领域，不难发现，科学研究与技术研发应用之间的边界逐渐变得模糊。加之，科技领域本身专业性强、技术壁垒高，事前风险研判难度大。著名的“科林格里奇困境”提醒我们，当代科学技术的可控性正变得越来越小，技术对人的影响很难在短期内清晰把握，只有通过人与技术的交互关系才能逐步呈现出来，但此时技术已对社会产生广泛且深远的影响。对此，高校科技伦理教育应引导学生关注人的发展问题，从工具理性和价值理性等多个角度思考行为责任，负责任地开展创新性研究。

　　规制与引领并重

　　科技向善具体表现为，科技活动遵守道德准则，要满足人民对美好生活的需要。从这个意义上讲，科技伦理的作用首先表现为，给科技活动提供必要规范，避免其侵害人的生命安全、身心健康和人格尊严，防止其危害社会安全、公共安全、生物安全和生态安全。除此以外，科技伦理还应发挥价值引领作用，引导科技朝着增进人类福祉的方向发展，使科技更好地造福人类。换言之，科技伦理不仅要扮演好“守门人”角色，为制度制定、伦理审查和监管等提供价值支撑，而且还应为研究指引新方向、提供新空间。

　　从科技伦理的作用功能出发，高校科技伦理教育应帮助学生掌握与守好科技活动的底线和红线，同时帮助他们合理把握人与技术的共在关系，多维理解生活图景，使其在深化认识过程中激发主动性和创造力，以科技呈现生活的丰富样态，避免技术应用挤压生活空间而导致生活扁平化。这是实现科技创新与科技伦理良性互动的应有之义，也是助推人民群众过上有尊严的美好生活的必然要求。

　　高校科技伦理教育事关科技人才队伍建设、事关科技发展方向，是加强科技伦理治理的基础性、长远性要素。必须坚持正确原则，切实做到意识与制度并重、责任与目标并重、引领与规制并重，在培养更具伦理精神的未来科技工作者方面发挥更为积极的作用。

　　《光明日报》（ 2023年01月03日 15版）

ChatGPT搞钱行不行******

　　一系列的试探之后，AI聊天机器人ChatGPT的收费计划浮出水面。当地时间2月1日，人工智能实验室Open AI在其官网宣布将推出“ChatGPT Plus”付费订阅版本，每月收取20美元。免费了两个月，月活用户却达1亿的ChatGPT，终于踏上了自己的“赚钱路”，由此，AIGC商业化落地的探讨也陡然升温。不少人迫切地想知道，ChatGPT Plus会不会是AIGC从烧钱到赚钱的关键转折。

　　免费服务仍将继续

　　“新晋顶流”ChatGPT用收费计划再次搅动了AI圈的一池春水。根据Open AI的公告，订阅ChatGPT Plus服务的用户，即使在高峰时段，也可获得该聊天机器人更快速的回应，而且可以提前体验新功能和改进。

　　去年11月，ChatGPT横空出世，不仅能够通过学习和理解人类的语言与用户进行对话，还能根据上下文互动，甚至能够完成撰写文案、翻译等工作。得益于这种突破性的使用体验，ChatGPT迅速蹿红。

　　当地时间2月1日，瑞银发布研究报告称，截至今年1月，近期爆火的ChatGPT在推出仅两个月后，其月活跃用户估计已达1亿，成为历史上用户增长最快的消费应用。同样的成绩，海外版抖音TikTok在全球发布后，花了大约9个月的时间，Instagram则花了两年半的时间。

　　但大量用户涌入的同时，也导致ChatGPT经常在流量压力之下无法提供及时的回应，此次收费版的ChatGPT Plus针对的便是这一痛点。

　　据悉，付费计划将在未来几周内首先在美国推出，然后扩展到其他国家。但ChatGPT Plus的推出并不意味着取代免费版的ChatGPT，Open AI表示，将继续为ChatGPT提供免费访问。

　　烧不起的模型成本

　　尽管只推出了两个月，但Open AI对于ChatGPT的收费计划却已经暗示了有一阵子。早在1月初，Open AI就曾提出过专业版ChatGPT的计划，宣布“开始考虑如何使ChatGPT货币化”，并公布了一项调查。什么价格以上会无法接受？什么价格以下会觉得太便宜？诸如此类关于定价的问题皆在其中。

　　有用户曾在社交媒体上提问ChatGPT是否会永久免费，对此，Open AI首席执行官Sam Altman回应称：“我们将不得不在某个时间点，以某种方式将其商业化，因为运算成本令人瞠目结舌。”Sam Altman曾透露，ChatGPT平均每次的聊天成本为“个位数美分”。

　　“这类大模型训练成本非常高。”在接受北京商报记者采访时，瑞莱智慧高级产品经理张旭东表示。

　　但相对训练来说，模型推理，也就是用户提交输入模型输出结果的过程，这一成本会更高。“据说ChatGPT在开放测试阶段每天要花掉200万美元的服务器费用，所以前段时间免费的公测也停止了，如何降低模型推理的消耗也是目前的一个重要研究问题。”张旭东称。

　　“钱景”在哪

　　长久以来，广阔的市场前景和难以盈利的现状几乎成为了AI领域难以平衡的理想和现实，对ChatGPT或者说是以ChatGPT为代表的AIGC也是一样。

　　洛克资本副总裁史松坡对北京商报记者分析称，ChatGPT受到广泛认可的重要原因是引入新技术RLHF，即基于人类反馈的强化学习。在史松坡看来，ChatGPT是一个高效的信息整合助手，可以取代大量人类中初级助理的角色。

　　但他同时提到，目前ChatGPT在海外英文环境中已经能胜任图画创作、音乐创作、文字整理、信息搜集综合、基础编程和金融分析，但还不能胜任高频度的人类主观决策，比如大型投资决策、政治战略决策等。

　　天使投资人、知名互联网专家郭涛认为，ChatGPT在重塑众多行业或场景的同时也孕育着巨大的商机，将推动众多行业快速变革，有望在AIGC、传媒、娱乐、教育、客户服务、医疗健康、元宇宙等领域快速落地，具有万亿级市场规模。

　　张旭东认为，AIGC商业化落地还需要结合应用场景，目前基于生成式大模型的商业应用案例还比较少，就以当下的技术水平看，一两年内达到很好的AGI(通用人工智能)水平还是不太现实的，所以一定需要有垂直领域的创新公司来基于OpenAI等公司的工作来寻找合适的场景落地。

　　AIGC商业化，侵权与被侵权

　　AIGC要想商业化，场景只是其一。伴随着ChatGPT的爆火，争议始终并行，比如AI绘画面临的版权探讨。学术界也已针对ChatGPT做出了反应，权威学术出版机构Nature规定，ChatGPT等大模型不能被列为作者。纽约市教育部门曾表示，纽约公立学校的所有设备和网络上将禁止使用ChatGPT。

　　张旭东认为，目前AIGC最为成熟的应用在内容作品创作上，但从专业角度看，AIGC属于模仿创新，并不具备真正的创造力，AIGC的作品可能对一些艺术家、创作家的风格题材造成侵权；另一方面，AIGC作品也存在被他人侵权的风险。

　　此外，就安全性问题而言，AIGC这种深度生成能力很可能被滥用于伪造虚假信息，比如生成一些敏感性的有害信息，甚至伪造新闻信息恶意引导社会舆论，而且这些生成式内容难以分辨追踪，大幅增加对信息治理的挑战难度。信息获取也是AIGC需要解决的问题之一。

　　郭涛则提到，当前AIGC赛道尚处于孕育探索阶段，存在关键核心技术不成熟、免费素材资源较少、内容堆砌且质量参差不齐、成熟的商业应用场景较少、相关法律法规不健全及技术伦理挑战等突出问题，短期内还难以实现大规模商业化应用。

　　北京商报记者 杨月涵