OpenAI、Anthropic 与美国政府签署协议，允许测试和评估人工智能模型

　　随着中美围绕半导体和人工智能（AI）的技术战愈演愈烈，中国已投资 435 亿元人民币（61 亿美元）在全国范围内建设八个计算中心。全球人工智能热潮大幅推动了美国和中国对先进图形处理器 (GPU) 的需求。台湾研究公司 TrendForce 的数据显示，高端 GPU 出货量预计将在 2025 年增长 55%。

　　根据英伟达周三发布的第二季度业绩，尽管美国制裁措施收紧，限制 GPU 芯片巨头英伟达向其第三大市场中国运送其最先进的产品，但该公司表示，在截至 7 月 28 日的第二季度，来自中国的数据中心收入强劲。

　　美国参谋长联席会议主席查尔斯·布朗将军呼吁盟军采用人工智能 (AI) 来应对未来的安全挑战。布朗本周在智利圣地亚哥举行的 2024 年南美防务会议 (Southdec) 开幕式上发表了上述讲线 个南美国家以及中美洲和加勒比地区合作伙伴计划的代表出席了此次活动。牛宝体育网址

　　在讨论人工智能的未来角色时，布朗表示：“回顾我们通过合作和信任建立的坚实基础，很明显，我们应对安全挑战的能力也依赖于我们发展和适应不断变化的世界格局的能力。”布朗说：“每个组织都在寻找利用这项新技术提高自身能力的方法。但仅仅将‘人工智能粉末’撒在所有事物上并期待变革是不够的。”布朗概述了他认为将人工智能转变为国家安全资产需要克服的七个挑战。这些挑战是：基础设施、架构、数据、专注、资源、人才和文化。

　　2024 年 8 月 22 日，新加坡计算机学会在资讯通信媒体发展局 (IMDA) 的支持下发布了《 人工智能伦理与治理知识体系 2.0 版》（BoK 2.0）。最新版本代表了在指导人工智能 (AI) 技术的道德和负责任实施方面的持续努力取得了重大进展。

　　BoK 2.0 的制定是为了应对人工智能技术的快速发展及其日益融入日常应用和解决方案的趋势。更新后的框架解决了与人工智能部署中的人类安全、公平、隐私、数据治理和一般道德价值观相关的实际问题。

　　第一版 Bok 1.0 于 2020 年 10 月发布。然而，生成式人工智能 (GenAI) 的迅速崛起，尤其是在 2022 年底 OpenAI 的 ChatGPT 推出之后，带来了需要管理的新风险和需要解决的人工智能治理新领域。

　　MITRE 发布的一份新政策文件建议，确保联邦政府资助人工智能研究并建立一个行政工作组来监督人工智能的发展和使用，应该成为下一任总统任期第一年的优先事项。

　　MITRE 是一家由联邦政府资助、代表各机构运营研究和开发中心的组织，它在文件中表示——该文件旨在为新一届政府提供有关人工智能安全、创新、信任和道德方面的建议——建立该技术安全使用的监管框架将“加强美国在人工智能领域的国际领导地位”，并“释放其变革潜力，以应对一系列关键挑战”。

　　MITRE 为下一届总统任期提出了九项建议，其中包括对人工智能科学技术情报机构的行政支持，以监控来自公开来源的对抗性技术以及对公共和商业人工智能基础设施和运营进行红队测试。

　　5.OpenAI、Anthropic 与美国政府签署协议，允许测试和评估人工智能模型

　　美国政府已与 Anthropic 和微软 ( MSFT ) 支持的 OpenAI 签署协议，牛宝体育网址以研究、测试和评估他们的人工智能模型。根据初步协议，美国人工智能安全研究所将在各公司的主要新模型公开发布之前和之后获得其使用权。

　　美国商务部国家标准与技术研究所（NIST）下属的美国人工智能安全研究所表示，这些协议将促进关于如何评估能力和安全风险以及如何降低这些风险的合作研究。

　　美国人工智能安全研究所所长伊丽莎白·凯利表示：“安全对于推动突破性技术创新至关重要。有了这些协议，我们期待与 Anthropic 和 OpenAI 开始技术合作，推动人工智能安全科学的发展。”

　　当地时间2024年8月19日，AMD宣布计划以49亿美元收购ZT Systems，旨在大幅扩展其在数据中心AI系统中的能力。

　　在人工智能日趋火热的背景下，AMD通过重金收购ZT Systems来增强其在数据中心AI系统方面的能力，此举不仅引起了业界的广泛关注与讨论，也被视为对英伟达在AI计算领域主导地位的一次挑战

　　据媒体报道，因隐私政策方面的考量，最终决定拒绝与母公司的人工智能合作。据了解，Meta与在今年3月曾初步探讨过潜在的合作机会，但遗憾的是，双方并未能就合作细节达成新的进展。苹果在评估后认为，Meta在隐私保护方面的做法未能达到其严格的标准，因此不打算将Meta的大型语言模型（LLM）集成到iOS系统中。

　　清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。