东洋镜

首页 >> 人间物语 >> 2023

	字体∶大中小
生成型人工智能是助手还是威胁？
杨文凯 (发表日期:2023-04-01 15:32:50 阅读人次:64 回复数:0)
ChatGPT遭遇阻击、网络联署呼吁暂停　　生成型人工智能是助手还是威胁？　　　　中文导报讯 3月31日，意大利宣布即日起禁止使用聊天机器人ChatGPT，打响了人类保卫战的第一枪。　　据意大利数据保护局（DPA）最新消息，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。个人数据保护局开始立案调查。　　个人数据保护局认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。　　意大利宣布，OpenAI公司必须在20天内通过其欧洲代表，向意大利个人数据保护局通报公司执行保护措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。欧盟在数据保护方面一直是全球的先行者，在落地层面也是全球最为严格的监管者。其中，意大利更是一马当先。　　无独有偶，在欧洲执法机构和消费者保护组织先后拉响对ChatGPT潜在危害的警报的同时，马斯克、图灵奖得主等一众大佬也签署公开信、联名呼吁暂停大型AI研究，引起波澜。　　网络联名公开信：呼吁暂停研发更强AI模型　　自从ChatGPT问世以来，引发了一场席卷整个科技界的AI军备竞赛。人们惊艳于人工智能卓越能力的同时，对于人工智能向何处进化、是否会威胁人类的担忧也越来越多。　　最近几个月人工智能实验掀起了狂潮，大家都在争先恐后地去开发和部署越来越强大的数字大脑，但目前并没有人能理解、预测或可靠地控制AI系统，也没有相应水平的规划和管理。面对这样的现状，所有人都应该行动起来——跑步前进，还是原地等待，大佬们开启大辩论。　　3月30日，超过千名产业界和学术界的大佬们在“生命未来研究所（Future of Life Institute）”网站上发布联名公告：呼吁全球所有实验室暂停更强的AI模型研发，暂停时间至少为6个月。在此期间，人工智能领域的专家和行业参与者应该共同制定一套安全协议，并对技术发展进行严格的审查和监督。　　参加联署者全都是重量级真大佬，包括全球知名公司的创始人、CEO，各国人工智能的资深研究专家。这是一次史无前例的产业界和学术界的联名，对于当前的人工智能热潮发出了另一种强有力声音。这封信引起了很多共鸣，越来越多的人开始在社交媒体上呼吁大家加入这场“请愿”之中。目前签名人数已经达到了1280人，人数还在增加中。　　这封公开信，主要传达了两个方面的信息：一是警告人工智能存在对人类社会的潜在威胁，要求立刻暂停任何比GPT-4更强大的人工智能系统的训练，时间跨度至少6个月。二是呼吁整个人工智能领域以及政策制定者们，要共同设计一套全面的人工智能治理系统，对人工智能技术的发展进行监督和审查。　　信中指出，人工智能已经表现出了与人类相当的水平，但人类却并没有准备好了接受人工智能带来的一切问题和挑战。包括：是否应该让机器在信息渠道中宣传不真实的信息？是否应该把那些带给人类成就感的工作都推向自动化？是否应该开发超过人类数量非人类的大脑，使其最终胜过人类的智慧，淘汰并取代人类？是否应该冒着失去对人类文明控制的风险？　　人工智能研究和开发，应该重新聚焦于使当今强大的、最先进的系统，更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。　　AI开发人员必须与政策制定者合作，以加快开发强大的 AI 治理系统。涵盖内容至少应包括：专门负责 AI 的新的和有能力的监管机构；监督和跟踪高性能人工智能系统和大量计算能力；出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏；强大的审计和认证生态系统；人工智能造成的伤害的责任；为技术人工智能安全研究提供强大的公共资金；以及资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏。　　公开信末尾呼吁，“让我们享受一个漫长的人工智能之夏，而不是匆忙地跑进秋天”。　　不过，OpenAI的管理人员说，他们还没有开始训练GPT-5。OpenAI首席执行官Sam Altman表示，公司长期以来在开发时将安全作为重点，并在GPT-4发布前花了六个多月的时间对其进行安全测试。　　2023.4.6

2023

缅北是怎么成为“诈骗地狱”的

2023日本移动出行展：风向变了

生成型人工智能是助手还是威胁？



	Copyright ◎ 2008 东洋镜工作室 All Rights Reserved