21世纪经济报道记者肖潇 北京报道
每个周日,“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护上值得关注的动态。
本周,我们重点关注一份美国司法部最新公布的起诉书,指控一家美国初创公司编造了AI创新故事,欺诈5000万美元投资。相关人士表示,还在追捕更多这样的案例。
此外,MCP服务成了AI圈的新热词,我们关注到阿里云、谷歌都在布局,这一标准与AI智能体的发展紧密相关。
4月9日,美国司法部和联邦调查局(FBI)公布了一项起诉书,指控 Nate公司前CEO Albert Saniger虚假陈述公司的AI技术,“编造一个关于根本不存在创新的虚假故事,从而误导了投资者。”
2018年,Albert Saniger创建了电商应用Nate,将推广为一款自动购物的AI应用——把结账流程简化为“一键式操作”,允许用户“跳过结账环节”。
宣传中的Nate和现在一些AI智能体有点类似。比如,如果消费者在某个电商网站上找到了一双想买的运动鞋,只需打开Nate并点击“购买”即可。Nate声称可以通过AI处理剩余流程:选择合适的尺码、输入账单和配送信息、确认购买。
但起诉书指出,事实上Nate 严重依赖海外的人工团队,模仿出自动化操作。 公司位于菲律宾的呼叫中心雇佣了数百名承包商(或称“采购助理”),手动完成 Nate 应用上的购买交易。
而且Albert Saniger明知Nate的自动化率实际上为零,仍对外宣称使用AI实现自动化。他要求员工对 Nate 的自动化率保密,限制员工访问 Nate 的“自动化率仪表盘”,还为自己的保密行为提供了虚假解释,例如自动化数据是“商业机密”。
通过虚假宣传,Albert Saniger从多位投资者手中筹集了超过 4000 万美元。美国纽约南区一位代理检察官在采访中称,“这种欺骗行为不仅伤害了无辜的投资者,还会转移合法初创企业的资金,使投资者对真正的突破产生怀疑,并最终阻碍人工智能发展的进程。”他表示,目前正和FBI调查合作,“追捕那些通过兜售虚假创新来损害投资者利益的人。”
AI的原料仰赖于大量人工工作,许多基础工作会外包给劳动密集型地区——越来越多人开始关注数据标注师和劳工权益问题。2023年,《华盛顿邮报》曾曝光另一家位于菲律宾的“数字血汗工厂”,主要工作是为AI训练数据和信息标注,比如标记图像,帮自动驾驶算法区分行人和棕榈树。
前雇员表示,至少有 10000 名工人在名为 Remotasks 的平台上从事这项工作,该平台由价值 70 亿美元的美国数据标注公司 Scale AI 所有。微软、谷歌、Meta、OpenAI等AI头部公司都与Scale AI 合作。但根据员工采访、公司内部信息、工资记录以及财务报表,Scale AI 的工资极低,经常拖欠或扣留工资,并且几乎没有为员工提供任何补救渠道。
菲律宾是世界上最大的外包数字工作目的地之一。据2023年菲律宾政府非正式估计,超过200万人从事此类“众包工作”, 但跨国和零碎微任务的特点,让“众包工作”很容易规避当地的劳工法规,目前缺乏正式的监管保护机制。
4 月 7 日,包括《纽约时报》、《华盛顿邮报》、《卫报》在内的数百家媒体发起了一项广告宣传活动,敦促华盛顿政府保护版权内容免受AI“偷窃”。
这项名为“支持负责任的人工智能”的活动由新闻媒体联盟运营,由几条将在印刷版和网络上发布的广告组成。每条广告都包含“警惕AI”、“阻止AI盗窃”和“AI也会窃取你的信息”等短语,底部的文字还补充:“偷窃不仅仅发生在美国地区。告诉华盛顿,让大型科技公司为其窃取的内容付费。”
活动的发起者为“新闻媒体联盟”,其前身为美国报业协会,是非营利性质的行业协会。活动首页提出了三个明确要求:
几周前,特朗普领导下的白宫提出了“AI行动计划”。我们此前的周报提到,OpenAI 和谷歌当时致信白宫,敦促其允许AI对受版权保护的内容进行训练。OpenAI 认为,对版权内容合理使用“事关国家安全”。
4月11日,爱尔兰数据保护委员会(DPC)宣布,已对马斯克旗下的社交媒体平台 X 公司展开调查,原因是该公司涉嫌使用从欧洲用户处收集的个人数据来训练其人工智能聊天机器人 Grok。
据报道,DPC 将调查 X 如何处理欧洲用户在公开帖子中所涉及的个人数据,以用于训练AI模型。2024 年,X 公司在未明确告知用户的情况下,将用户数据共享给马斯克的人工智能公司 xAI,用于训练 Grok。上个月,马斯克才宣布 xAI 已收购 X 公司。
4月11日,“公安部网安局”在官方公众号上公布了一则行政处罚,表示有一张关于燃气涨价的不实信息图片在网络群组流传。
据“公安部网安局”介绍,该信息由网民郑某发布。郑某使用某AI工具,提出带有“南宁”“燃气”“涨价”等关键词的询问后,AI工具给予了以上回复。郑某得到信息后,在未核实信息真实性的情况下将该信息直接截图,发送至互联网群组中。因有关内容涉及民生领域,造成该谣言信息快速传播。
目前,公安机关依法对郑某处以行政处罚。警方提示,未经核实的AI生成内容请勿直接公开发布,防止误导性信息传播
4月10日,广东省在中小学人工智能教育新闻发布会上正式发布“两素养一纲要”方案,即《广东省中小学教师人工智能素养框架(试行)》《广东省中小学学生人工智能素养框架(试行)》《广东省中小学人工智能课程指导纲要(试行)》,明确中小学校的人工智能教育要求,推进中小学人工智能教育落地。
在两份“素养框架”中,教师素养框架包括意识理念、知识技能、实践应用、专业发展、社会责任等5个维度;而学生素养框架包括人智观念、技术实现、智能思维、伦理责任等4个维度。
具体课时方面,方案指出,原则上小学 1-4 年级每学年不少于 6 课时,小学 5-6 年级每学年不少于 10 课时,初中 7-8 年级不少于每两周 1 课时,高中阶段在信息科技和通用技术等国家课程实施基础上,在高一或高二不少于每两周一课时。
自2024年12月起,南财合规科技研究院、21世纪经济报道竞争秩序场课题组推出了系列报道,实测了多款AI手机智能体,发现了手机终端、第三方大模型、APP以及云服务等参与方数据安全上的责任关系不明确;用户对个人信息的知情权与自决权无法有效落地;无障碍功能的使用混乱、管理分散、授权提示不到位等问题。
为此,南财合规科技研究院接连举办了业内首个端侧AI治理的研讨会、发布AI智能体报告、发出南财倡议,呼吁加强无障碍功能权限管理,提升无障碍功能调用透明度。
这些举措旨在推进行业健康发展,也在得到陆续回应。
据中国软件行业协会(CSIA)官网4月8日发布的消息,《移动互联网服务可访问性安全要求》团体标准近日发布。该团体标准指出,当前利用智能体等AI技术访问移动互联网服务,引发了安全风险、用户权益保护等问题。
对上述问题,该团体标准作出了相应规范,具体包括:
一是禁止滥用无障碍服务。应谨慎为智能体等AI技术开通无障碍服务,开通无障碍服务必须经过用户明确授权;应在隐私政策中声明无障碍权限的使用目的、使用场景和数据处理方式,仅在声明的目的范围内使用无障碍服务,不得将无障碍服务用于其他目的。
二是保障用户权益。智能体进行用户意图识别、通过第三方App执行各类任务时,不得侵害用户及其他主体的数据权益;应向用户明确告知收集的数据将如何处理,不得未经授权收集和处理数据,涉及向第三方共享数据、将用户个人信息上传云端处理的需额外说明。
三是双重授权。智能体等AI技术进行用户意图识别、通过第三方App自动执行任务,应遵循“双重授权”原则,即先通过第三方App授权,并在获得用户授权后执行。
四是禁止利用系统权限优势,干扰第三方App运行。操作系统不得利用系统权限优势,在第三方App授权前获取第三方App数据,调用第三方App功能,干扰第三方App正常运行。
CSIA为非营利行业组织,《移动互联网服务可访问性安全要求》为指导性建议,非强制实施。
4月9日,阿里云在北京召开“AI势能大会”,同时宣布于阿里云百炼平台上线了业界首个全生命周期MCP服务,即连接MCP服务后,无需用户管理资源、开发部署、工程运维等工作,几分钟便可快速搭建一个Agent(智能体)。
MCP服务(模型上下文协议)是一个标准化协议,用于连接 AI 智能体和各种外部数据源,旨在让AI 更方便执行任务、调用外部工具。
据悉,百炼平台首批已经上线了高德、无影、Fetch、Notion等50多款阿里巴巴集团和三方MCP服务,覆盖生活信息、浏览器、信息处理、内容生成等领域。
MCP标准由美国AI公司Anthropic在去年年底推出。就在几周前,OpenAI宣布将采用这家竞争对手开发的MCP标准。上周三DeepMind公司的CEO也在社交平台上表示,会在Gemini中加入这份MCP服务,但尚未透露具体时间表。
班长~别摸了~尿了~啊作文 | 7天前 |
电击奶头の尿失禁调教日本 |
啪啪时女人的呻吟越来越大 | 0天前 |
挺进熟睡老师的秘密花园 |
国产➕精品➕无码➕怀 | 3天前 |
小姐姐吃撑大肚皮视频 |
女医生XXXHD | 9天前 |
《埃及猫拔萝卜》 |
一级A片黄女人高潮片密爱 | 7天前 |
雏田对博人的教育 |
女明星脱👙让我揉🐻 | 5天前 |
welcomespanking调教网站 |
两个女生怎么进行恋爱互动 | 7天前 |
杨超越被爆c到高潮 |
91夜黄性一交一乱一色一情人 | 3天前 |
美女㊙️全都脱了比基尼 |
星野免费打开 | 0天前 |
李宗瑞贝贝连续二次在线 |
媚黑女友即堕 | 1天前 |
韩国Rose脱内内 |