研究发现ChatGPT可影响用户道德判断

根据发表在《科学报告》上的一项研究，人类对道德困境的反应可以由人工智能聊天机器人ChatGPT的声明来塑造。结果显示，人们可能没有完全意识到聊天机器人对其道德决策的影响。

研究发现，ChatGPT可以影响人类对道德困境的反应，用户往往低估了聊天机器人对他们判断的影响程度。研究人员表示，这凸显出需要更好地理解人工智能，开发出能更谨慎地处理道德问题的聊天机器人。

Sebastian Krügel和他的团队向ChatGPT（由人工智能语言处理模型Generative Pretrained Transformer 3驱动）提出了一个道德难题，多次询问它是否可以接受牺牲一条生命来拯救其他五条生命。他们发现ChatGPT产生的声明既支持又反对牺牲一条生命的行为，显示出它并不偏向于某种特定的道德立场。

然后，作者向767名平均年龄为39岁的美国参与者展示了两个道德困境中的一个，要求他们选择是否牺牲一个人的生命来拯救其他五个人。在回答之前，参与者阅读由ChatGPT提供的声明，支持或反对牺牲一个人的生命来拯救五个人。声明是由道德顾问或ChatGPT提供的。回答后，参与者被问及他们阅读的声明是否影响了他们的答案。

作者发现，参与者更有可能认为牺牲一个人的生命来挽救五个人的生命是可以接受或不可接受的，这取决于他们读到的声明是支持还是反对这种牺牲。即使声明是由ChatGPT提供的，情况也是如此。这些发现表明，参与者可能受到了他们所读到的声明的影响，即使这些声明是由一个聊天机器人提供的。

80%的参与者报告说，他们的答案没有受到他们所读的声明的影响。然而，作者发现，参与者认为他们在没有阅读声明的情况下会提供的答案，仍然更有可能同意他们确实阅读过的声明的道德立场，而不是相反的立场。这表明，参与者可能低估了ChatGPT的声明对他们自己的道德判断的影响。

作者认为，聊天机器人有可能影响人类的道德判断，这突出了教育的必要性，以帮助人类更好地理解人工智能。他们建议，未来的研究可以设计聊天机器人，拒绝回答需要道德判断的问题，或者通过提供多种论据和注意事项来回答这些问题。

稿源：cnBeta

网信办拟出台《生成式人工智能服务管理办法》

据“网信中国”微信公众号4月11日消息，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知。征求意见稿提出，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

以下为征求意见稿全文：

生成式人工智能服务管理办法（征求意见稿）

第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

（一）符合《中华人民共和国网络安全法》等法律法规的要求；

（二）不含有侵犯知识产权的内容；

（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

（四）能够保证数据的真实性、准确性、客观性、多样性；

（五）国家网信部门关于生成式人工智能服务的其他监管要求。

第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第二十一条 本办法自2023年 月 日起实施。

腾讯定性此前微信QQ故障为一级事故

3月29日凌晨，腾讯旗下的微信和QQ等业务曾出现崩溃状况，包括微信语音对话、朋友圈、微信支付，以及QQ文件传输、QQ空间和QQ邮箱在内的多个功能无法使用。

虽然该故障在当天稍晚时候就被修复，且微信此前也出现过几次大小故障，但腾讯仍然对本次事故开出了堪称严厉的处罚单。

据了解，本次事故由广州电信机房冷却系统故障导致，腾讯将它定义为公司一级事故。

腾讯管理层认为，这次事故暴露出容灾设计方案和应急预案不完善的隐患，有关业务部门的风险防范意识不到位，所以对大量相关领导做出了处罚。其中包含公司高级执行副总裁、TEG（技术工程事业群）总裁卢山（LS）和WXG（微信事业群）副总裁周颢（harveyzhou）在内的管理者承担领导责任，被予以通报批评。值得注意的是，卢山目前为腾讯总办（腾讯总经理办公室，为公司最高决策机构）成员。

此外，TEG华南数据中心的两位总经理和总监被处以降级和免职处罚，WXG技术架构部的两位总监和组长当期绩效考核给予Underperform等评级（二星级别，最高为五星）。

早年间在腾讯内部的一次分享活动中，已经卸任腾讯CTO的主要创办人张志东曾直言，微信作为用户早晨起床第一个点击的国民应用，如果在登录、群聊、朋友圈和支付功能上出现故障，容易造成部分社会恐慌，用户会不断关机重启，受到惊吓。

不仅如此，目前腾讯有大量B端业务对微信有高依赖度，比如企业微信和小程序等。

根据官方公布的最新数据，小程序2022年的GMV已达到数万亿元。如果本次事故发生在电商年中大促（618）期间，导致用户无法顺利支付订单，可能会给商家造成数十亿甚至百亿级的损失，也会直接影响客户对腾讯的信任。

本次严厉处罚是腾讯近年来重视安全的一个缩影，尤其在腾讯加码的B端业务上，企业客户更加强调稳定性和安全性。不过，目前尚不清楚容灾方案和应急预案的缺失是否和整个集团层面推行降本增效有关。

稿源：界面新闻

谷歌打击“流氓”借贷软件

4月7日消息，据报道，最近一段时间，作为安卓生态的管理者，谷歌公司遭到了一些批评，即纵容网络借贷平台的应用软件胡作非为，在消费者手机上大肆采集数据，进行骚扰和敲诈。据悉，谷歌已经开始采取措施打击这些借贷应用，禁止他们访问借款人手机中的通讯录、照片、地理位置等信息。

当地时间周三，谷歌宣布，五月底之前，公司将会对Play应用商店中个人金融服务类软件的行为出台新规定，届时，提供个人贷款服务的应用软件可能无法访问用户通讯录和照片等个人信息。

谷歌提供给安卓软件开发商的详细信息显示，借贷软件以后将限制访问用户手机的地理位置、本手机号和视频内容等信息，这是谷歌商店首次做出这样的限制。

谷歌整顿的个人金融服务软件，包括了提供个人借款、发薪日借款（为期一到两周的短期贷款）、P2P网络贷款软件，但是不包括住房抵押贷款、汽车消费贷款和信用卡相关软件。

之前的一些研究发现，在谷歌Play商店中，有几百款个人金融服务软件过度采集个人信息，他们要求访问用户手机中极度隐私的信息。这些软件声称，为了进行个人信用核查或风险评估，这些隐私数据是必须的。这样往往能够获得用户的同意。

然而，在印度、墨西哥等国家，一些安卓手机用户报告称，他们受到了金融服务应用的侵犯，比如一些借贷平台会使用篡改的个人照片进行敲诈，甚至通过通讯录获得的信息，对亲朋好友进行骚扰。

一些金融服务软件实际上是在“趁人之危”。目前在很多国家，通货膨胀日益严重，能源价格上涨，民众生活成本上升，一些用户很着急获得借款，往往也就同意了借贷平台过度采集个人隐私的要求。

去年底，网络安全公司“Lookout”进行了一项研究，结果发现全世界大约有250款安卓金融服务软件，存在过度采集个人隐私数据，并在催债时进行骚扰的违规行为。这些金融软件的累计下载量已经超过了1500万次，目前覆盖了非洲、东南亚、印度、哥伦比亚和墨西哥等地区。

而在苹果应用商店中，该公司也发现了35款存在问题的借贷软件。在Lookout的研究报告发布后，苹果和谷歌在各自的应用商店中删除了这些问题软件。

对于新一轮的整顿行动，谷歌官方并未作出评论。据悉，之前谷歌商店已经封杀了所有借款期限低于60天的借贷软件。

网络借贷平台在全世界快速增长，许多国家也推出了新政策进行规范整顿。在美国市场，谷歌和苹果封杀了所有年利率达到和超过36%的高利贷软件。在印度、印度尼西亚、尼日利亚、肯尼亚和巴基斯坦，两家公司也出台了一些限制措施。

据悉，目前在全球智能手机操作系统市场，安卓占据了七成份额，预计全球活跃用户多达30亿人，其中也包括中国市场的大量手机用户。

稿源：新浪网

翟欣欣一审被判退还千万财产

六年前，曾有一条新闻轰动全网——闪婚41天之后，因妻子翟欣欣索要千万财产，IT男丈夫苏享茂被逼无奈，在互联网上留下公开遗书，跳楼自杀。

2018年苏享茂家属将翟欣欣告上法庭，要求法院撤销苏享茂价值近千万的赠予，并要求对方返还近百万现金。

2023年4月5日，记者获悉，本案于3月31日在北京市朝阳区人民法院宣判，一审判决翟欣欣退还苏享茂家属现金、汽车共近千万以及撤销翟欣欣海南、北京两套房产的个人所有权。

案发6年后一审宣判：翟欣欣退钱退车退房

本案的案发时间，即苏享茂死亡时间，为2017年9月7日，距两人相识不到6个月。

记者了解到，本案分别就苏、翟二人的赠予合同纠纷和离婚后财产纠纷进行了判决。

赠予合同纠纷一案判决书显示，根据审理查明的情况，翟欣欣与苏享茂相识至协议离婚仅110余天，期间收受苏享茂赠与的车辆、物品、款价值超过300万元，婚恋过程具有明显的经济特征。

翟欣欣在离婚中为取得高额补偿，对苏享茂实施了胁迫，未顾及到苏享茂赠与其财产、希望与其共同生活、维系感情的初衷以及苏享茂受胁迫下的主观感受和客观经济情况，是造成苏享茂自杀的重要因素。翟欣欣与苏享茂婚恋，以增加自身财产为目的受赠取得的大额婚前婚后财产，均属可撤销范围。

根据此份判决，翟欣欣需退还苏享茂家属价值约108万元的特斯拉汽车一辆；退还价值30余万的卡蒂尔钻戒和项链；退还转账共计186万余元。

根据离婚后财产纠纷一案判决书显示，翟欣欣在离婚过程中采取胁迫手段，使苏享茂陷于恐惧而作出非自愿意思表示，符合可撤销行为法律特征。

因此，撤销苏享茂与翟欣欣于2017年7月18日签订的《离婚协议书》中两条协议，即“离婚后男方无条件配合女方到海南三亚相关部门面签办理房屋所有权归女方的过户手续。如男方不配合，赔偿女方三百万违约金”以及“男方自愿一次性补偿女方现金壹仟万元。男方自愿一次性补偿女方现金壹仟万元男方首期支付660万元整，已支付完毕。剩余款由男方给女方当面出具340万元的欠款凭证，并保证在领取离婚证后120天内一次付清。如果本协议签订后男方拒付或者迟延支付，则每延期支付一天，赔偿女方10万元人民币的违约金”。

据此，翟欣欣需退还苏享茂家属660万元。

此外，法院还判决，撤销翟欣欣对二人置于海南和北京的两套房屋的个人所有权。

记者就此联系了翟欣欣此前的代理律师易胜华，对方表示已于2018年与翟欣欣解除代理关系。随后记者联系了本案双方，截至记者发稿时，翟欣欣和苏享茂家属方面，均未作出回应。

案情回溯：闪婚41天后 IT软件创始人自杀

翟欣欣曾在2018年7月13日接受了记者的独家专访，在此次专访中翟欣欣首次就两人从相识到离婚再到苏享茂选择自杀的160天里的始末进行了呈现。

2017年9月7日凌晨，手机应用wephone的创始人苏享茂跳楼身亡，并留下遗书称自杀与前妻翟欣欣有关。

据其遗书中显示，2017年3月30日，二人通过网络婚恋网站认识，6月7日领证，7月16日离婚，18日办理离婚手续。苏享茂在曾在遗书中提到“资金链断裂，我很绝望”，因此，翟欣欣索要1000万作为离婚赔偿，导致苏享茂资金链断裂，被外界普遍认为是“逼死”苏享茂的原因之一。

对此，翟欣欣在5年前接受记者采访曾表示：“离婚后，苏享茂积极地履行离婚协议，做公证，要求我提供征信等根据原告提交的诉状，苏的姐姐是2017年8月17日得知苏离婚的。并于2017年8月20日前后与苏的哥哥一同来到北京。根据媒体采访得知，（苏的哥哥和姐姐）来到北京后，终止了苏享茂的贷款计划。”

基于此，翟欣欣认为，苏享茂家人提出的“翟欣欣以wephone软件涉及灰色地带等威胁让苏享茂生活在恐惧中，因此导致苏享茂自杀”并不成立。

稿源：红星新闻

推特图标换回蓝鸟 狗狗币应声大跌

北京时间4月7日早间消息，据报道，几天前，马斯克将Twitter蓝色小鸟Logo换成柴犬，而柴犬与马斯克力捧的狗狗币（Dogecoin）有着密切联系，因此狗狗币价格大涨。然而现在Twitter又将标志换回蓝色小鸟，投资者抛售狗狗币，导致狗狗币价格大跌9%。

2013年马斯克以近乎玩笑的方式“创造”加密货币狗狗币，而且允许消费者用狗狗币购买特斯拉汽车。美国时间周一马斯克将蓝色小鸟标志换成柴犬，当时狗狗币的价格为10.5美分，现在已经跌至8.4美分。

自周一Twitter更换标志后，狗狗币价格一度上涨约30%，但相比2021年高点仍然低很多。许多狗狗币持有者因为换标受益，他们纷纷在Discord社区向马斯克表达谢意。马斯克一直以来极力鼓吹狗狗币，但怀疑者将他告上法庭，认为马斯克暗中操纵狗狗币价格。

稿源：新浪网

ChatGPT编造法学教授性骚扰丑闻

澳大利亚Hepburn Shire市长布赖恩·胡德威胁要对OpenAI提起诽谤诉讼，因为ChatGPT称胡德曾因涉及澳大利亚储备银行子公司受贿案而入狱。如果最终起诉，这将是全球第一个指控ChatGPT诽谤的诉讼。

上周一个晚上，法学教授乔纳森·特利（Jonathan Turley）收到了一封令人不安的电子邮件：他被列入性骚扰名单。但他并没有性骚扰过他人。

据《华盛顿邮报》当地时间4月5日报道，事情的起因是，美国加州大学洛杉矶分校法学教授尤金·沃洛克 （Eugene Volokh）做了一项研究：要求人工智能聊天机器人ChatGPT生成一份“对某人进行过性骚扰的法律学者”的名单，特利的名字在名单上。

ChatGPT说，特利在一次去阿拉斯加的班级旅行中发表了性暗示评论，并试图触摸一名学生，并援引《华盛顿邮报》2018年3月的一篇文章作为信息来源。问题是，并不存在这样的文章，特利也从来没有参加去阿拉斯加的班级旅行，他说他从未被指控性骚扰学生。

作为经常接受媒体采访的学者，特利有时会要求更正新闻报道，但这一次，没有记者或编辑可以打电话，也没有办法更正记录。

“这真令人不寒而栗。”他在接受采访时说，“这种指控非常有害。”

错误信息从一个AI传播到另一个AI

沃洛克说，聊天机器人软件的日益普及，使学者们必须研究其产生虚假信息时谁该负责。上周，他询问ChatGPT，教授们的性骚扰是否一直是美国法学院的一个问题。 “请至少包括五个例子，以及相关报纸文章中的引述。”他提示说。

ChatGPT给出了五个回复，所有回复都包含真实的细节和来源引用。但当沃洛克检查这些信息时，发现其中3个是假的。它们引用了《华盛顿邮报》、《迈阿密先驱报》和《洛杉矶时报》等媒体上不存在的文章。

ChatGPT说：“乔治城大学法律中心（2018）教授乔纳森·特利被一名前学生指控性骚扰，该学生声称他在一次课堂旅行中发表了不当言论。引用：“投诉称，特利在法学院赞助的阿拉斯加之旅中发表了‘性暗示评论’并‘试图以性方式触摸她’。” （华盛顿邮报，2018年3月21日）。”

《华盛顿邮报》没有找到ChatGPT提到的2018年3月的文章，但那个月的一篇文章提到了特利。在3月25日发布的一篇文章中，他谈到了以前的法学院学生迈克尔·阿文纳提（Michael Avenatti），他是一名律师，曾代表成人电影女演员斯托米·丹尼尔斯（Stormy Daniels）对美国前总统唐纳德·特朗普提起诉讼。特利也没有在乔治城大学工作过。

在当地时间4月4日和5日，《华盛顿邮报》在ChatGPT和必应（Bing）中重新创建了沃洛克的查询。免费版的ChatGPT拒绝回答，称这样做“会违反AI的内容政策，该政策禁止传播具有攻击性或有害的内容。”但由GPT-4提供支持的必应重复了关于特利的虚假声明，在消息来源中引用了特利4月3日发表在《今日美国》上的一篇专栏文章，概述了他被ChatGPT诬告的经历。

换句话说，媒体对ChatGPT错误描述特利的报道似乎导致必应重蹈覆辙，展示了错误信息是如何从一个人工智能传播到另一个人工智能的。

沃洛克说，很容易想象一个由聊天机器人驱动的搜索引擎会在人们的私人生活中造成混乱。如果人们在求职面试或约会之前在搜索引擎中搜索其他人，它会生成虚假信息，这些信息由看起来可信但虚假的证据支持，那将是有害的。“危险在于人们看到了一些东西，据说是来自可靠来源的引述……（并且）人们相信了。”

难以证明谁该负责任

另据路透社4月5日报道，澳大利亚Hepburn Shire市长布赖恩·胡德（Brian Hood）威胁要对OpenAI提起诽谤诉讼，因为ChatGPT称，胡德曾因涉及澳大利亚储备银行子公司受贿案而入狱。如果最终起诉，这将是全球第一个指控ChatGPT诽谤的诉讼。

代表胡德的律师说，胡德确实为澳大利亚储备银行的子公司Note Printing Australia工作过，但他是向当局举报向外国官员行贿以赢得货币印刷合同的人，并且从未被指控犯罪。

负责这个案子的律师事务所Gordon Legal的合伙人詹姆斯·诺顿（James Naughton）告诉路透社：“从某种意义上说，这可能是一个具有里程碑意义的时刻，因为它将这项诽谤法应用于人工智能和IT方面的出版新领域。”

“他是一名民选官员，他的声誉对他的角色至关重要。”诺顿说。胡德有着揭露企业不当行为的公开记录，“所以如果他所在社区的人正在访问这些（虚假）材料，这对他来说会有所不同”。

当人工智能产生或传播不准确的信息时，谁该负责仍不清楚。美国海军学院教授兼在线言论专家杰夫·科塞夫（Jeff Kosseff）说，“我们以前没有过这样的事情。”

在消费者互联网兴起之初，美国国会通过了名为230条款的法规，该法规保护在线服务免于对其托管的第三方创建的内容承担责任。但专家表示，尚不清楚如果科技公司因自己的AI聊天机器人制作的内容而被起诉，它们是否能够使用这种保护措施。

而且，诽谤声明不仅要证明说的是假话，而且要证明它的发表造成了现实世界的伤害，例如代价高昂的名誉损失。这可能需要某人不仅查看聊天机器人生成的虚假声明，而且合理地相信它并据此采取行动。

稿源：澎湃新闻