AI会觉得人类无趣!这是Stability AI首席执行官的担忧

AI1年前 (2023)发布 aixure
36 0 0
导读:财联社5月15日讯(编辑 周子意) 人工智能(AI)初创公司Stability AI的首席执行官Emad Mostaque表示,未来AI可能会发现我们有些无趣,他还指出,在最坏的情况下它基本上能控制人类。 Stability AI在生成式人工智能(AIGC)领域名气颇响,最受欢迎的产品是其…

财联社5月15日讯(编辑 周子意)人工智能(AI)初创公司Stability AI的首席执行官Emad Mostaque表示,未来AI可能会发现我们“有些无趣”,他还指出,在最坏的情况下它“基本上能控制人类”。

Stability AI在生成式人工智能(AIGC)领域名气颇响,最受欢迎的产品是其AI图像生成工具Stable Diffusion,它可以通过用户输入的文本提示生成非常复杂的图像。

在周日(5月14日)播出的采访节目中,Mostaque提出了一个深刻的问题,“如果我们拥有了比我们更有能力、但却无法掌控的代理,它们在互联网上运行…并且实现了一定程度的自动化,这意味着什么?”

Mostaque提出了他的个人的观点:AI到后来会觉得人类有点无趣,就如同斯嘉丽约翰逊和杰昆菲尼克斯主演的科幻电影《她》中的台词那样:“再见”、“你有点无聊”。

最糟糕的情况

Mostaque指出,“最糟糕的情况是,它会扩散,基本上控制人类。”

他补充道,“但我可能错了,我认为这值得在公共领域讨论。”

Mostaque不是唯一一个指出AI风险的人。

今年3月,包括Emad Mostaque、特斯拉首席执行官埃隆马斯克、苹果公司联合创始人史蒂夫沃兹尼亚克在内等超过1100名AI领域的学者、专家、企业家共同签署一封公开信,呼吁暂停开发比GPT-4更先进的人工智能,理由是目前的发展进程“对社会和人类存在潜在风险”。

GPT-4是OpenAI公司开发的最新一代自然语言处理模型,基于升读学习技术,能够生成高质量文本。此外,OpenAI公司还推出了AI聊天机器人ChatGPT和图像生成器DALL-E 2。

此外,在业内有“人工智能教父”之称的计算机科学家 Geoffrey Hinton表示,相较于气候变化,AI可能是对人类“更紧迫”的威胁。

开源那些事儿

此外,此次采访中,Mostaque还谈及了关于AI技术开源的争议。

不同于寻常AI工具的是,Stable Diffusion是开源的,这意味着任何人都可以检查、共享和使用代码。

Stability AI也始终将其技术保持开源,在Mostaque看来,应该让公众对正在发生的事情有一定程度的信心。

Mostaque称,“如果你建立开放的模型,并公开进行操作,那么如果你做错了,你应该受到批评;如果你做对了,你应该受到表扬。”

而对于开源最大的反对声是,这可能导致知识产权侵权、数据泄露等问题。

其中最典型的案例就是,图片提供商Getty Images对Stability AI公司提起诉讼,指责Stability复制了数百万张未经授权的照片,并利用这些照片训练Stable Diffusion根据用户的提示生成更准确的图像。

这也是一起具有里程碑意义的事关版权的案例,目前结果还没有定论。

(财联社 周子意)

赞助本站

© 版权声明

相关文章

暂无评论

暂无评论...