在新一波人形机器人的推动下，全球劳动力结构即将发生改变。这些机器人将在仓库、餐馆、家庭甚至工厂车间以类似人的适应性和智能进行工作。创新的浪潮将不仅局限于某一家公司，它将扩展到一系列领先的机器人公司，每个公司都会为这一激动人心的发展做出独特的贡献。阿尔贡机电公司、波士顿动力公司、阿普特罗尼克公司、...[详细]
据欧洲新闻社12月9日报道，2024年11月成为仅次于2023年同期、全球第二热的11月，平均气温达到14.1摄氏度，比1991至2020年的11月平均气温高0.73摄氏度。根据哥白尼气候变化服务局公布的数据，2024年11月比工业化前的平均气温高出1.62摄氏度。[详细]
本乔说：“这些都是非常棘手且重要的问题，而我们没有答案。我们需要加强研究与预警，降低潜在的风险。”
本乔认为，能够负担得起制造强大的人工智能机器的组织或政府数量是有限的，而且人工智能系统规模越大，其智能程度越高。
本乔为6月份的一封题为《关于对尖端人工智能提出警告的权利》的公开信签名背书。这封信得到了开放人工智能研究中心(OpenAI)现任和前任雇员的签名支持。
他还说：“但是，如果是五年，那么我们还没准备好……因为我们没办法保证这些系统不伤人或是与人类反目……我们不知道如何保证。”
他说：“现在就引导社会和人类朝着积极有益的方向发展还不算太晚。”本乔说：“但是，为此，我们需要有足够多的人理解其优势与风险，我们需要足够多的人探索解决方案，它可以是技术上的，可以是政治……政策，但是我们必须立即朝那些方向付出足够的努力。”
本乔说，有观点认为目前正在训练的人工智能机器“将产生与人类反目的系统”。
公开信就人工智能进步带来的“重大风险”提出警告，呼吁科学家、决策者和公众制定指导意见以降低风险。过去几个月，OpenAI一直受日益严重的安全担忧的困扰，今年10月解散了“通用人工智能准备就绪”团队。
在蒙特利尔举行的世界青年领袖峰会上，本乔告诉消费者新闻与商业频道记者塔妮娅·布莱尔：“展望我们未来面临很多方面与自己一样聪明的机器的情景及其那对社会意味着什么，这确实很重要。”
本乔说：“一个短期而言最严重、但是会随着我们朝着功能更强大的系统发展而日益严重的担心就是虚假信息、错误信息、人工智能影响政治与舆论的能力。随着我们向前发展，我们会拥有能够产生更逼真的图像、听起来更逼真的声音模仿、更逼真的视频的机器。”
他说：“担责也是强制(公司)规范行为的另一个工具，因为……如果涉及公司的钱财，担心受到起诉——那会促使它们朝着保护公众的方向行事。如果它们知道自己不会被起诉，因为眼下那就是某种灰色地带，那么它们就不一定会表现良好。(公司之间)互相竞争，而且它们认为率先实现通用人工智能的公司将占据主导。因此，这是一场竞赛，而且是一场危险竞赛。”
但是，本乔为这项技术感到担忧，并提醒谨防一些拥有“强大权力的”人甚至可能希望看到人类被机器替代。
他说：“智慧赋予力量。那么，谁将控制那种力量？让知识量超过大部分人类的系统落入坏人之手，可能带来危险，并在地缘政治或层面造成更大动荡。”
本乔是蒙特利尔大学教授、蒙特利尔学习算法研究所所长，因在深度学习领域的研究多次获奖。深度学习是人工智能的一个子集，它试图模仿人类大脑活动，学习如何识别数据的复杂模式。
本乔说，“最困难的问题”是，“如果我们创造了比我们还要聪明并拥有自身目标的实体，那对人类意味着什么？我们身处危险之中吗？”
本乔说，这种影响或许会延伸到与聊天机器人的互动。他指的是意大利和瑞士研究人员发表的一项研究报告。该报告显示，OpenAI的大语言模型GPT-4可能会比真人更能说服人们改变主意。
本乔说，保证人工智能安全的立法程序将类似于其他技术制定规则的流程，比如飞机或汽车。他说：“为了享受人工智能的有益之处，我们必须制定规则。我们必须设置防护栏。我们必须就如何发展这项技术实行民主监督。”
参考消息网12月11日报道 据美国消费者新闻与商业频道网站11月21日报道，著名计算机科学家约舒亚·本乔——人工智能先驱——发出警告，提醒谨防这项新兴技术对社会的潜在负面影响，并呼吁深入研究，降低风险。
他说，机器可能很快具备人类的大部分认知能力；通用人工智能(AGI)是一项旨在达到或超越人类智力的人工智能技术。
他说：“此外，有人可能想滥用那种力量，也有人可能乐于看到人类被机器替代。我的意思是，这是少数人，但是这些人可能把持很大权力，而且如果我们不立即制定适当的防护措施，他们就能做到(滥用)。”
“会出现力量集中：可能对市场不利的经济实力集中，以及对我们这个星球的地缘政治稳定不利的军事实力集中。因此，我们需要尽快仔细研究并开始缓解大量有待解决的问题。”
他说：“你知道，建造和训练这些机器需要巨额成本，只有极少数组织机构和国家有能力完成。现在已然如此。”
本乔说，随着人工智能如此迅速地发展，政府必须“要有一点创造性”，制定能够适应技术变化的立法。
算法悄然影响日常消费模式。算法既高效和精准地推动数字经济发展，又可能以大数据“杀熟”等形式侵蚀消费者权益。如今，算法可能比消费者更了解本人的消费习惯。不同人订同一航班同一舱位机票价格不同，某APP多次使用后无法再领取大额度优惠券，会员订酒店反而价格更贵……随着算法深度嵌入日常消费，大数据“杀熟”手段...[详细]
本乔告诉消费者新闻与商业频道记者：“政府要做的第一件事就是制定规章，强制(公司)在建造此类最大的、需要数以亿计美元进行训练的前沿系统时必须注册登记。政府应当知道它们在哪儿，知道这些系统的详情。”
随着人工智能的发展，虚假信息，尤其是关于选举的虚假信息成为日益严重的关切。今年10月，OpenAI说，它干扰了“世界各地20多次试图利用我们的模型开展的活动和欺诈性网络”，包括美国和卢旺达选举前出现的虚假账号在社交媒体上发的帖子。
搜索
中文
当前位置：
