• 官方微信

    CA800二维码微平台 大视野

  • 工控头条

    CA800二维码工控头条App

当前位置:自动化网>自动化新闻>行业资讯>OpenAI员工发表公开信警示人工智能监管缺失风险

OpenAI员工发表公开信警示人工智能监管缺失风险

发布时间:2024-06-05 来源:央广网 类型:行业资讯 人浏览
关键字:

系统 人工智能

导  读:

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。  据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触...,系统,人工智能,智能,智能,人工智能

  美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。

系统,人工智能

  据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

  信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

  信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

  联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

系统,人工智能

  齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

  科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

  OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

本文地址:http://www.ca800.com/news/d_1o5n8figp6sc3.html

拷贝地址

下一篇:“灯塔工厂”点亮“智造”未来广东加快驱动家电行业向智能制造方向前进

免责声明:本文仅代表作者个人观点,与中国自动化网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容!来源网络如有误有侵权则删。

相关新闻
系统 人工智能
  • 工控机BIS-6360ARA-B10,支持车载视频监控系统集成应用

    随着车辆数量的增加、行车安全需求的提高和监控技术的快速发展,车载视频监控市场规模在近年来不断扩大。华北工控把握市场新机遇,打造了支持车载视频监控系统集成应用的BIS-6360ARA-B10等工控机。LED,接口,

  • “魏”客户 | 打造切割“神器”,“勾勒”光伏未来

    随着新增光伏装机容量的持续增长,主要用于光伏硅片切割的神器——金刚石切割线 (简称金刚线)同样面临着爆发性的市场需求,结合光伏装机量,相关机构预测2023年全球光伏用金刚线整体需求量可达2.5亿km以上。魏德米勒,系统,质量,控制,重载接插件,

  • “魏”客户 | 打造切割“神器”,“勾勒”光伏未来

    随着新增光伏装机容量的持续增长,主要用于光伏硅片切割的神器——金刚石切割线 (简称金刚线)同样面临着爆发性的市场需求,结合光伏装机量,相关机构预测2023年全球光伏用金刚线整体需求量可达2.5亿km以上。魏德米勒,系统,质量,控制,重载接插件,

  • 创新加持,守护健康

    快速发展的远程I/O技术作为现代制药设备中信号与数据的联接“桥梁“,常常应用于制药设备自动化控制系统中,是打造自动化、数字化制药设备的关键一环,从而实现药品生产过程和设备状态的数据采集、传输和控制,最终有助于提高生产效率和药品质量,降低企业的合规性成本。模块,

  • 雷诺尔 | 汇聚专家观点,助力“双碳”目标

    近日,上海雷诺尔应邀参加第 20 届中国电气自动化与控系统学术年会,院士专家们齐聚安徽共探“电气传动助力碳达峰、碳中和双碳目标”。控制,智能化,变频器,

  • 创新加持,守护健康

    快速发展的远程I/O技术作为现代制药设备中信号与数据的联接“桥梁“,常常应用于制药设备自动化控制系统中,是打造自动化、数字化制药设备的关键一环,从而实现药品生产过程和设备状态的数据采集、传输和控制,最终有助于提高生产效率和药品质量,降低企业的合规性成本。模块,

  • 创新加持,守护健康

    快速发展的远程I/O技术作为现代制药设备中信号与数据的联接“桥梁“,常常应用于制药设备自动化控制系统中,是打造自动化、数字化制药设备的关键一环,从而实现药品生产过程和设备状态的数据采集、传输和控制,最终有助于提高生产效率和药品质量,降低企业的合规性成本。模块,

  • 新能源界出大事了!科创板在审最大IPO终止

    近日,上交所官网显示,蜂巢能源科技股份有限公司及其保荐人撤回发行上市申请,结束了一年的A股科创IPO申请旅程。系统,控制,新能源汽车,

  • 华北工控BIS-6670K模块化整机,适用于机器视觉技术领域

    机器视觉是人工智能技术快速发展的一个分支,具有自动化、高精度以及信息数字化等优势,应用范围广泛。华北工控以工控力量服务智能社会,推出了适用于机器视觉领域的BIS-6670K模块化整机等产品。

  • 华北工控BIS-6670K模块化整机,适用于机器视觉技术领域

    机器视觉是人工智能技术快速发展的一个分支,具有自动化、高精度以及信息数字化等优势,应用范围广泛。华北工控以工控力量服务智能社会,推出了适用于机器视觉领域的BIS-6670K模块化整机等产品。

  • 超市、工厂装上“智慧之眼”人工智能赋能实体经济

    5月17日,2024年世界电信和信息社会日大会在浙江省宁波市召开,本次大会主题是“数字创新赋能新型工业化”。视觉大模型是中国移动浙江分公司在现场展示的标志性成果之一。人工智能,实体经济,

  • 超市、工厂装上“智慧之眼”人工智能赋能实体经济

    5月17日,2024年世界电信和信息社会日大会在浙江省宁波市召开,本次大会主题是“数字创新赋能新型工业化”。视觉大模型是中国移动浙江分公司在现场展示的标志性成果之一。人工智能,实体经济,

  • 魏德米勒以创新和开放理念,引领IT与OT融合趋势

    数字化、云和边缘技术、人工智能和工业物联网等技术正以迅猛的速度影响着运营技术,大大加速了IT与OT的融合。根据魏德米勒Interface自动化业务部副总裁Andreas Hoffmann的预计,到2025年将至少有400亿台物联网设备投入使用。

  • 魏德米勒以创新和开放理念,引领IT与OT融合趋势

    数字化、云和边缘技术、人工智能和工业物联网等技术正以迅猛的速度影响着运营技术,大大加速了IT与OT的融合。根据魏德米勒Interface自动化业务部副总裁Andreas Hoffmann的预计,到2025年将至少有400亿台物联网设备投入使用。

  • 人工智能热度攀升市场广阔

    今年以来,人工智能产业热度持续攀升。文生视频软件Sora、文生音乐软件Suno等人工智能应用不断涌现,带给人们冲击的同时,也在影响着千行百业。本报今起推出“聚焦人工智能发展”系列报道,围绕人工智能相关市场、安全、耗能等问题进行深入分析。  今年年初,美国开放人工智能研究中心OpenAI正式发布了旗下首款文生视频

  • 腾讯牵头,建成医疗影像国家新一代人工智能开放创新平台

    历时三年建设的“医疗影像国家新一代人工智能开放创新平台”,日前正式通过科技部高技术研究发展中心的综合绩效评价,标志着我国医疗影像AI实现了从“实验室”科研到“医院”临床应用的全链路贯通。“医疗影像国家新一代人工智能开放创新平台”架构这项“新一代人工智能国家科技重大专项”在2021年启动,由腾讯担任项目牵

猜您喜欢

更多精彩信息看点 请扫描以下二维码