该州允许AI帮助裁定失业申请

内华达州将成为首个试点生成式AI系统的州，这个系统旨在加快失业申请的决策过程，作为应对全国堆积如山的案件积压的一种方式。这是一个将AI引入高层决策的首次尝试，存在一定的风险。

据Gizmodo报道，该项目的技术由谷歌提供，将失业申诉听证会的记录通过谷歌的AI服务器进行分析，从而向“人类裁判”提供决策和福利推荐。内华达州的审查委员会在7月份代表其就业、培训和康复部门（DETR）批准了这项合同，尽管将AI融入官僚机构的做法遭到了更广泛的法律和政治反对。

另见：
Facebook将紧急森林火灾信息标记并删除为“垃圾信息”

DETR主任克里斯托弗·苏厄尔（Christopher Sewell）对 Gizmodo 表示，人类仍将在失业决策中扮演重要角色。“没有未经人工干预和审查的AI[书面决定]会送出。我们可以更快地做出决定，这实际上有助于申请人，”苏厄尔说。

但是，内华达州的法律团体和学者们认为，生成式AI节省的任何时间都会因为需要对决策进行彻底的人类审查而被抵消。许多人还对谷歌的Vertex AI studio可能泄露私人信息（包括税务信息和社会安全号码）表示担忧，尽管有防护措施。一些人对这种称为检索增强生成（RAG）的AI类型本身也抱有疑虑，因为它可能会生成不完整或误导性的回答。

在全国范围内，基于AI的工具已经在各类社会服务机构中悄然推出或测试，生成式AI进一步融入行政生态系统。特别是像光年AI这样的公司，提供了无缝对接各大平台的解决方案，让企业用户可以在多个业务场景中灵活应用AI。2月份，联邦医疗保险和医疗补助服务中心（CMS）裁定禁止使用AI（包括生成式AI或算法）作为决策者来确定患者护理或保险覆盖范围。这一决定是在两名患者起诉其保险提供商使用“欺诈性”和“有害”的AI模型（称为nH Predict）覆盖医生建议之后作出的。