道德意见388

澳门赌场官网在客户事务中使用生成人工智能

技术的进步极大地改善了澳门赌场官网提供法律服务的方式. 技术没有改变的是澳门赌场官网的基本道德义务, 特别是, 澳门赌场官网对客户和法院的责任. 我们预计这两种说法都适用于澳门赌场官网使用生成式人工智能(GAI)。. 由于这一领域技术的迅速发展, 我们认识到，本意见中提出的一些担忧可能会在未来针对特定产品得到解决或提出, 也许就在不久的将来.¹

《澳门赌场官网》要求澳门赌场官网必须有能力. 胜任能力包括对澳门赌场官网在法律实践中使用的任何技术有足够的了解，从而有理由相信该技术将促进客户在代理中的利益. 分别, 澳门赌场官网还应合理确信，使用和依赖该技术不会与澳门赌场官网根据《澳门赌场官网》承担的任何其他义务相抵触.

澳门赌场官网通常在执业中采用和使用最新开发的技术，以获得竞争优势，并提高为客户提供法律服务的效率. 虽然技术创新有一定的优势, 它伴随着风险和潜在的不良后果. 所有这些都适用于GAI. 对于执业澳门赌场官网来说，这可能是一个巨大的福音，但正如最近的事件所表明的那样，它有时可能是一个不值得信赖和不称职的法律助理.

澳门赌场官网应该明白，GAI产品不是搜索引擎，不能准确报告不断更新的数据库中现有数据的点击率. GAI产品可用的信息仅限于GAI被训练的数据集. 该数据集对于相关主题可能是不完整的，过时的，或者在某些方面有偏见. 更重要的是, GAI的编程不能准确地报告其数据集中现有信息的内容. 相反，GAI正在尝试创造 新 内容. 在书面请求的情况下, GAI使用统计过程来预测句子中的下一个单词应该是什么. 这就是GAI中的“生成”的含义:GAI生成具有其数据集告诉它的用户期望看到的属性的新内容.

GAI产品有时会产生“幻觉”，这意味着它们会编造出不存在的东西. 正如下面所讨论和广泛报道的那样, 一个GAI产品捏造了几个不存在的“案例”的名称和引用，以响应在摘要中要求引用以支持特定法律立场的请求. 相信GAI是一个“超级搜索引擎”,一名澳门赌场官网在没有核实的情况下就把虚假的引文写进了案情摘要. 那件事的结果对签署辩护状的澳门赌场官网来说非常糟糕. 目前针对普通受众的GAI并不能可靠地替代传统的事实核查和引用核查, 而盲目依赖GAI产出的澳门赌场官网则会面临相当大的风险.²

澳门赌场官网还应该明白，目前市场上的许多GAI产品都是专门为收集和使用从用户那里收到的信息而设计的，这些信息可能包括客户的机密和秘密，用于GAI自己的培训和传输给该技术的未来用户. 这就提出了D项下的潜在问题.C. 规则1.6, 哪条规定澳门赌场官网不得在未经当事人知情同意的情况下向第三方透露当事人的机密信息.

关于保密客户信息, 澳门赌场官网应确定该产品是否会保存澳门赌场官网提供给GAI的信息, 以及澳门赌场官网与GAI产品的互动是否会影响GAI向澳门赌场官网所在澳门赌场官网事务所以外的产品未来用户提供的答案. 对上述任何一个问题的肯定回答都表明需要谨慎. 视情况而定, 澳门赌场官网应该确定一种不同的或更先进的GAI产品，可以将客户机密信息委托给该产品³ (或与产品供应商协商改进保密条款，使第一个产品值得信赖), 或只输入非客户机密信息的数据.

对于在法院或其他法庭进行的诉讼程序，特别是但不仅是那些已经通过规则或发布命令来规范使用人工智能的法庭，澳门赌场官网必须注意他们对法庭的坦率义务和对对方当事人和澳门赌场官网的公平义务. 澳门赌场官网还应注意他们在使用GAI时对客户档案的义务. 另外, 收费协议中只规定按时间收费的澳门赌场官网，可以按实际花费的时间收费, 即使GAI减少了澳门赌场官网花在这件事上的时间. 没有事先协议, 澳门赌场官网不能就GAI所做的工作对客户的感知价值单独收费, 不过，如果客户同意支付自付费用，他们可能会通过GAI申请的任何自付费用. 最后，这些问题涉及到澳门赌场官网的监督职责. 根据规则5.1和5.3, 澳门赌场官网应采取合理措施，确保任何受监督的澳门赌场官网或非澳门赌场官网对GAI的使用符合职业行为规则和本意见中讨论的原则.

适用的规则

• 规则1.1(能力)
• 规则1.2(代理范围)
• 规则1.5(费用)
• 规则1.6(信息保密)
• 规则1.16(客户端文件)
• 规则3.3(向审裁处坦白)
• 规则3.4(对对方和澳门赌场官网的公正)
• 规则5.1(合伙人、管理人、监督澳门赌场官网职责)
• 规则5.3(非澳门赌场官网助理职责)
• 规则8.4(行为)

讨论

大多数澳门赌场官网不是计算机程序员或工程师，也不需要具备这些专业技能. 随着技术在法律实践中的应用不断发展, 然而, 依赖这项技术的澳门赌场官网应该对如何使用这项技术有一个合理的和最新的理解，并适当考虑到它的潜在危险和局限性. 生成式人工智能技术也是如此. 被广泛报道的事件以 马塔v. Avianca公司., 678 F. 增刊. 3d 443 (S.D.N.Y. 2023)，提供实物课.

的 马塔 一场灾难始于一位澳门赌场官网对一项新技术的根本误解. 该案的主要原告澳门赌场官网经常在纽约州的州法院执业. 他通常使用的法律研究数据库对州法院的判例法是完整的，但对联邦判例法的访问有限, 当他在州法院提起的案件被转移到联邦法院时，这就成了一个问题. 他需要一种新的法律研究工具.

正如澳门赌场官网在制裁听证会上作证的那样, “我听说过这个新网站，我错误地认为它是一个叫做ChatGPT的超级搜索引擎, 这就是我用的.” 678 F. 增刊. 3d在456. 带着这种错误的理解, 他使用ChatGPT来寻找他可以依靠的案例，以反对驳回客户投诉的动议.

澳门赌场官网不知道, 他所咨询的ChatGPT工具并不是一个法律研究工具，它的目的是搜索以前发表的司法意见的综合库(数据库). 他选择的ChatGPT的“免费”版本没有这样的库. 事实上, ChatGPT在回应2023年10月发送的查询(在刚刚描述的事件之后)时明确否认拥有数据库:

• 我没有传统意义上的“数据库”. 直到2021年9月我最后一次更新知识之前，我都会根据训练过的文本数据生成响应. 我的回答是通过预测给定文本提示的下一个内容而生成的, 利用我所接受的文本数据中的模式和信息. 我无法访问互联网或实时数据库, 我的知识是静态的, 这意味着我不能提供上次更新后发生的事件或发展的信息.

ChatGPT和许多其他GAI程序使用的技术术语是“数据”集而不是数据base.⁴ 数据集可以被认为是一个有限的材料池，它说明了一个前提，在这个前提下，GAI学习了为用户的问题生成一个听起来合理的答案所必需的词汇表——而不考虑答案的真实性. 用于GAI生成案例引用, 例如, 数据集只需要包含指示正确格式的信息，在这种情况下通常会出现引文, e.g.、甲方. 乙方, 100 F.3d 100 (D.C. 圆形的. 2020). 让GAI出具离婚案件的传票, 它可能依赖于数据集中的信息，即离婚案件中的当事人往往有相同的姓氏, 而且这些案件是由州报告服务机构而不是联邦记者发布的. 类似的, 生成刑事案件引证, GAI可能依赖于政府实体通常出现在标题的原告一侧的信息.

澳门赌场官网来了吗? 马塔 我知道ChatGPT只有有限的数据集可用, 他大概不会放心使用这个平台来研究联邦判例法. 正如ChatGPT的免责声明所述, 其最初的培训可能包括，也可能不包括与……相关的主题 马塔 attorney’s research; even if it had, that information would no longer have been current.

一个更根本的问题是，像ChatGPT这样的大型语言GAI工具，即使基于有限的可用数据集，也不能提供准确的答案, 至少现在还没有. 而不是, 他们通过创造与他们之前看到的内容相似的“新”内容来回应文本提示:

• 生成式人工智能指的是能够获取原始数据的深度学习模型, 所有维基百科或伦勃朗的作品集——并“学会”在提示时生成统计上可能的输出. 在高水平上, 生成模型对其训练数据的简化表示进行编码，并从中提取以创建类似的新工作, 但不完全相同, 原始数据.

马提瑙金, 什么是生成式人工智能? | IBM研究博客⁵(4月. 20, 2023). 例如, 图形化GAI程序可能会被提示生成一幅似乎是伦勃朗画的马的肖像. 但这种产出是新的, 与以前不同, 当然也不是伦勃朗的真迹.

“统计上可能的产出”不是寻找现有控制当局的澳门赌场官网需要或想要的. 为广大受众提供的生成式人工智能根本无法替代LexisNexis和Westlaw等值得信赖的服务机构提供的熟悉的法律研究工具, 它们有以前公布的法律的数据库, 规定, 以及随着法律的变化和新案件的判决而不断更新的案件.⁶

在 马塔 情况下, ChatGPT似乎为澳门赌场官网提供了他所要求的东西:澳门赌场官网需要六个案例引证，以击败驳回动议. 不幸的是澳门赌场官网, 然而, 这些病例由ChatGPT报告，并附有病例编号, 法院的名称, 引用, 而由真正的法官撰写的作者——并不存在.

为什么ChatGPT用整块布来编箱子? 正如IBM研究博客所解释的:

• 许多生成模型, 包括那些为ChatGPT提供动力的, 能滔滔不绝地说出听起来权威但不真实的信息(有时被称为“幻觉”)或令人反感和有偏见的信息吗. 生成模型也可能无意中摄取训练数据中的个人信息或受版权保护的信息，并在以后输出, 给隐私和知识产权法带来了独特的挑战.

Id. 换句话说, “考虑这个问题的最好方式是，你正在和一个无所不知的人聊天, 渴望取悦你的实习生有时会对你撒谎.” 艾玛·鲍曼 一个新的人工智能聊天机器人可能会帮你做作业. 但它仍然不是一个A+学生，美国国家公共广播电台(12月. 19, 2022) (引用宾夕法尼亚大学沃顿商学院教授伊森•莫里克的话). 类似的:

• “仍然有很多情况下，你问它一个问题，它会给你一个听起来非常令人印象深刻的答案，但这是完全错误的,奥伦·埃齐奥尼说, 艾伦人工智能研究所的创始人兼首席执行官, 谁最近才开始经营这个非盈利研究机构. 当然，如果你不仔细核实或证实它的事实，这就是一个问题.”

Id. 这是GAI幻觉的视觉演示, 参见Gerrit De Vynck, Jhaan Elker和Tyler Remmel, 人工智能视频的未来就在这里，超级奇怪的缺陷和所有，《澳门赌场官网》(2月22日. 28, 2024).

再一次， 马塔 澳门赌场官网一开始就知道有产生幻觉的危险, 他可能会采取不同的行动, 至少, 对ChatGPT声称找到的案例执行传统的引用检查.⁷ 他就不会做他接下来做的事了.

在收到带有虚假引用的简报后, 对方澳门赌场官网和法院提出了他们找不到的被引用案例的问题. 还没意识到"幻觉"的问题, 澳门赌场官网对ChatGPT的态度加倍强硬，并询问GAI这些案件是否真实. ChatGPT回应说，它提供了可以通过Westlaw找到的“真实”权威, LexisNexis和联邦记者.” 678 F. 增刊. 3d在458. 再一次，这不是真的. 这些案件是GAI天生的“欲望”捏造出来的，目的是给澳门赌场官网他想要的东西.

在制裁听证会结束时, 所涉及的澳门赌场官网(使用ChatGPT并撰写摘要的人), 他的当地澳门赌场官网在联邦法院为他辩护(他只被承认为副澳门赌场官网)，被要求(1)支付5美元,000 fine; (2) notify their client in writing of the court’s decision 和 of the background leading up to the sanction; 和 (3) “mail a letter individually addressed to each judge falsely identified as the author of the fake ‘Varghese,’ ‘Shaboon,’ ‘彼得森,’ ‘马丁内斯,’ ‘歌顿， '和'米勒的观点,，并提供制裁意见的副本, 听证会记录, 以及错误地归咎于每个法官的虚假意见. Id. at 466.

随着公众对…的广泛关注 马塔 情况下, 全国各地的一些法官发布命令，解决在他们面前执业的澳门赌场官网可能使用GAI的问题. 美国联邦法官斯塔尔(Brantley Starr.S. 德克萨斯州北部地区的地方法院是第一个:

• 所有出庭的澳门赌场官网必须在案卷上提交一份证明，证明案卷的任何部分都不是由生成式人工智能(如ChatGPT)起草的, 哈维.AI, 或者Google 酒吧d)，或者任何由生成式人工智能起草的语言都会被检查其准确性, 使用纸质记者或传统法律数据库, 被一个人. 这些平台非常强大，在法律上有很多用途:离婚, 发现请求, 文件中建议的错误, 口头辩论中预期的问题. 但法律简报不在其中. 这是为什么. 这些平台在目前的状态下很容易产生幻觉和偏见. 关于幻觉，他们会编造一些东西——甚至引用和引用. 另一个问题是可靠性或偏见. 而澳门赌场官网发誓要抛开个人偏见, 偏见, 以及忠实维护法律和代表客户的信念, 生成式人工智能是由人类设计的程序的产物，而人类不需要发这样的誓言. 像这样, 这些系统不效忠于任何客户, 法治, 或美国的法律和宪法(或, 如上所述, 真相). 不受任何责任感约束的, 荣誉, 或正义, 这类程序是根据计算机代码而不是信念来运行的, 基于程序而不是原理. 任何一方认为平台具有法律简报所需的准确性和可靠性，可以申请休假并解释原因. 相应的, 如果澳门赌场官网未能在案卷上提交证明，证明其已阅读了法院的法官特定要求，并理解他或她将根据[联邦民事诉讼规则]第11条对其签署并提交给法院的任何文件的内容负责，本院将驳回其提交的任何文件, 不管生成式人工智能是否起草了该文件的任何部分.

首席大法官约翰·罗伯茨特别提到了GAI问题 《澳门赌场官网》. 正如他所描述的，“人工智能结合了算法和庞大的数据集来解决问题.” Id. at 5. 虽然“人工智能显然可以在法学院的作业中获得b，甚至通过澳门赌场官网考试……但任何使用人工智能的行为都需要谨慎和谦逊。.” Id.

• 今年，人工智能的一个突出应用因其被称为“幻觉”的缺点而登上了头条,，这导致使用该应用程序的澳门赌场官网提交的摘要中引用了不存在的案件. (总是一个坏主意.)一些法律学者担心，将机密信息输入人工智能工具是否会影响日后调用法律特权的尝试.

Id. at 5-6.

结束了GAI多事之秋, 被吊销澳门赌场官网资格的前澳门赌场官网迈克尔·科恩承认(在不知情的情况下)在他的刑事案件中向他的澳门赌场官网提供了由GAI生成的虚假引文. 李艾拉 Michael Cohen给澳门赌场官网提供了人工智能生成的欺诈性案例引用，《澳门赌场官方软件》(的 Hill)， 12月11日. 29, 2023). 这一次，GAI是Google 酒吧d, 科恩认为这是一个“增压的搜索引擎”.” Id. 科恩写道，他“没有跟上法律技术的‘新兴趋势(和相关风险)’，也没有意识到”生成文本服务“可能会创造出“看起来真实，但实际上并不真实”的引文和描述.’” Id. 回到他现在的非澳门赌场官网身份, 科恩写道，他相信他的澳门赌场官网会审查他的建议，然后“在没有证实它们存在的情况下，就把这些案件全部提交给他。,他的澳门赌场官网就是这么做的. Id.

到目前为止，尚未提及的是ChatGPT可能对它创建的假案例做了什么 马塔 澳门赌场官网的调查. 如上所述，ChatGPT最初是在有限的数据集上进行训练的. 随着时间的流逝, 然而, 许多GAI程序基于与用户的交互来补充它们的数据集. 对于ChatGPT，与 马塔 Lawyer成功了，假案例名称可能已经被添加到数据集中，以报告给未来有类似问题的用户. 直到幻觉问题解决, 因此，容易出现这个问题的系统是自毁的, 这又是一个需要仔细检查它们产出的原因吗.

2024年初, 斯坦福大学的研究人员宣布了一项研究的初步结果，发现“在回答有关法院核心裁决的问题时，大型语言模型至少有75%的时间会产生幻觉。.伊莎贝尔·戈特利布 & 以赛亚书Poritz, 研究表明，顶级人工智能模型的法律错误“普遍得令人担忧”彭博法律(1月9日. 12, 2024). 他们的测试涉及“OpenAI聊天GPT 3上的20多万个法律问题”.5、谷歌的PaLM 2和Meta的Llama 2都是通用模型，不是为特定的合法用途而建造的.” Id. 其中一名研究人员说:

• 我们不应该采用这些非常通用的基础模型，天真地部署它们，并将它们放入各种部署设置中, 正如许多澳门赌场官网所做的那样……. 在你真正需要澳门赌场官网的地方，要谨慎行事, 还有一些有法律知识的人, 为了能够评估像这样的引擎给你的东西的真实性.

Id.

最近, 《澳门赌场官网》的一位记者评估了两款GAI产品，用于她的一些工作功能. 丹尼尔·阿布里尔, 我使用人工智能工作工具来完成我的工作. 事情是这样的 ——《华盛顿邮报. 26, 2024). 她发现，“当人工智能被输入文件或数据时，它似乎做得更好. 但它有时还是会胡编乱造，返回错误信息，或者不理解上下文.” Id. 文章结尾如下:

• [A]所有的结果和内容都需要仔细检查其准确性, 一些调整或深度编辑——两家科技公司都建议用户验证人工智能生成的所有内容.“我不希望人们放弃责任,克里斯蒂娜·贝尔说, 谷歌工作空间协作应用产品管理副总裁. “这有助于你完成工作. 这对你的工作没有帮助.”
  
  就像AI的情况一样，提示中的细节和方向越多，输出就越好. 所以当你做每一项任务时, 你可能要考虑人工智能是否会节省你的时间，还是会创造更多的工作.
  
  “生成文本和视频等结果所需的工作量减少了,拉赫曼(西北大学凯洛格管理学院教授)说. “但是核实工作已经大大增加.”

Id.

最近，一家澳门赌场官网事务所在一份法庭文件中援引了ChatGPT，用于新的和不同的目的. J.G. v. 纽约市消防局. 的教育， 2024 wl 728626 (s).D.N.Y. 2月. 22, 2024). 考虑到ChatGPT现在存在的问题，法院不愿意接受. 该案件涉及在法律允许这种费用转移的情况下，胜诉原告的澳门赌场官网向败诉方请求澳门赌场官网费的动议. 运动者必须确立其收费要求的“合理性”. 在就合理性问题提出了法院认为是“激进的”判例法论据之后, 原告澳门赌场官网提交了一份来自ChatGPT的报告，“作为‘交叉核对’，支持”法院认为的“有问题的来源”.” Id. at *7. 法院认为，该澳门赌场官网事务所“援引ChatGPT作为其激进收费报价的支持”“完全且异乎寻常地缺乏说服力”.” Id. “公司应该对此表示赞赏, 将ChatGPT的结论作为衡量具有特定背景的澳门赌场官网在利基业务领域为客户执行定制任务的合理收费费率的有用标准，从一开始就是错误的.” Id. 法庭讨论过 马塔 另一起案件中，澳门赌场官网提交了ChatGPT制造的虚假引文. 然后，法院关注的是，在这种情况下，没有任何理由相信ChatGPT可以成为可靠的信息来源:

• 在这里声称ChatGPT支持它所要求的费用奖励, (澳门赌场官网事务所)没有指明ChatGPT所依赖的输入. 它并没有揭示这些是否同样是虚构的. 它没有透露ChatGPT是否在任何地方考虑了一个非常真实和相关的数据点:先例的统一集团, 审视下, 在这一案件中，本地区和巡回法院驳回了[澳门赌场官网事务所]对其计时员的收费过高的要求. 因此，法院立即拒绝了ChatGPT关于适当计费费率的结论. 除非该工具的可靠性发生范式转变, 建议(澳门赌场官网事务所)在未来的收费申请中删去对ChatGPT的引用.

Id. at *7.⁸

在这样的背景下, 我们将讨论澳门赌场官网在法律实践中使用GAI所涉及的具体职业行为规则. 我们认识到现在存在着不同种类的GAI, 而且越来越强大的正在酝酿中. 使用某些人工智能或类似人工智能的产品进行文件审查和发现已经成为法律实践中可以接受的一部分，因为经验表明这一点, 如果使用得当, 其中一些产品产生准确的结果，并减少了文件审查和生产的成本. 当用于法律研究时，某些GAI产品的当前版本还没有出现这种情况. 这个意见，这是局限于 生成 人工智能产品, 旨在为澳门赌场官网提供指导，随着技术的发展，以确定何时以及如何将这些产品道德地纳入他们的实践. 由于这一领域技术的迅速发展, 我们预计，本意见中提出的许多问题可能会在未来解决或讨论特定产品, 也许就在不久的将来.

如下所述, 在法律事务中使用GAI涉及澳门赌场官网的能力责任, 保密, 沟通, 对法庭坦白, 和 fairness to opposing parties 和 counsel; their obligation to supervise non澳门赌场官网 assistants 和 hold them to 澳门赌场官网 st和ards of conduct; their obligations as to the fees 和 expenses of a representation; 和 their obligation to maintain 和 make available a complete client file at the conclusion of a representation.

A. 能力

根据规则1.1(a)“澳门赌场官网应向委托人提供合格的代理.”“保持必要的知识和技能, 澳门赌场官网应该及时了解法律和实践的变化, 并参与必要的继续学习和教育，以保持能力.规则1.1 cmt. [6]. 正如我们在 D.C. 法律伦理意见 关于在法律实践中使用社交媒体:

• 我们同意ABA对模型规则1的评论[8].要成为一名称职的澳门赌场官网，澳门赌场官网必须及时了解法律和实践的变化, 包括与相关技术相关的利益和风险."尽管地区法院对规则1的评论.1 .不具体参考技术, 称职的代理总是需要法律知识, 技能, 彻底性, 以及为进行代理所作的合理必要准备. 因为社会对科技的拥抱, 澳门赌场官网的无知或无视, 包括社交媒体, 存在道德不端的风险.

我们对GAI在法律实践中的运用持相同的看法.⁹ 事实上，澳门赌场官网使用GAI可能会成为标准做法.

在使用任何特定形式的GAI之前, 澳门赌场官网应该对它是如何工作的以及它的作用有一个合理的和最新的理解, 适当考虑到(a)潜在的危险, 包括“幻觉”或滥用或暴露客户机密信息的风险, (b)其局限性, 包括它是否使用了一个可能产生不完整的数据集, 过时的, 或者结果不准确, (三)成本. 澳门赌场官网也应该有一个合理的信任GAI输出的基础, 或必须审查和验证GAI输出, 在将这些产出纳入他们为客户提供的工作产品或依靠它们来支持法律程序之前.

澳门赌场官网怎么做这些事呢? 考虑到与GAI相关的澳门赌场官网同行的遭遇, 我们建议，在为其法律业务进行重大技术投资之前，任何理性的企业主都应该进行的那种尽职调查. 根据上下文，这可能包括以下问题和答案:

• GAI平台在法律实践方面有什么澳门赌场官网?
• GAI是否经过公正的第三方测试以达到您的预期目的?
• 您信任的其他法律专业人员是否使用过GAI? 他们遇到什么问题了吗?
• 要求GAI做一些你或你尊敬的同事或对手已经做过的事情，并将其输出与人类工作产品进行比较.¹⁰
• 在测试运行中验证GAI输出的准确性和完整性(包括任何日期限制), 尤其是在引用法律方面, 法规和司法判决.

在任何特定情况下，什么是必需的或谨慎的，取决于具体情况. 对于依赖于证明的GAI产品，可能需要更少的尽职调查, 当前相关信息的数据库. 在光谱的另一端, 对于向一般受众提供的GAI产品，以及在法律服务方面缺乏积极记录的产品，应该更加小心.

B. 保密

根据规则1.第6(a)(1)条，“澳门赌场官网不得在知情的情况下……泄露澳门赌场官网客户的机密或秘密.“在本规则下，‘[c]保密’是指根据适用法律受澳门赌场官网-委托人保密特权保护的信息，而‘秘密’是指客户要求保密的在专业关系中获得的其他信息, 否则泄露出来会很尴尬, 或者可能是有害的, 致客户端.规则1.6(b). 正如我们在 法律伦理意见364:

• 这种广泛的保密义务“触及了澳门赌场官网的灵魂”.” 关于冈萨雷斯, 773 A.2d 1026, 1030 (D.C. 2001)(引用 弗雷德·韦伯公司. v. 壳牌石油公司., 566 F.2d 602, 607(第八章. 1977)). “披露客户机密违反了澳门赌场官网对其客户负有受托责任的基本原则，必须以最大的忠诚和奉献为客户的利益服务。.’” 哈尔滨市v. 霍费尔, 806 A.2d 186, 197 (D.C. 2002)(引用 关于冈萨雷斯, 773 A.2d (1031).

对规则1的注释[40].6注意到, “当传输包含与客户代表有关的信息的通信时, 澳门赌场官网必须采取合理的预防措施，防止信息落入无意的接收者手中.”

另外，规则1.第6(f)条要求澳门赌场官网“行使合理谨慎以防止澳门赌场官网的雇员, 的同事, 以及为澳门赌场官网提供服务的其他人不得泄露或使用客户的机密或秘密.有权访问GAI程序输入的第三方GAI提供者是该义务延伸的“他者”.

为了保护客户的机密，澳门赌场官网应该问两个问题:

1. 我提供给GAI的信息会被GAI提供者或澳门赌场官网-客户关系中的其他陌生人看到吗?
2. 我与GAI的互动是否会影响GAI的后续用户获得的答案，从而泄露我向GAI提供的信息?

从保密的角度来看, 对第一个问题的肯定回答至少是一个危险信号，但是, 也许, 这个问题可以在与GAI提供商协商后解决(或者升级到具有更好条款的付费产品)，以提高数据安全性并防止第三方访问.¹¹ 第二个问题的肯定答案可能更难解决. 澳门赌场官网应合理地确信其与GAI的互动不会将客户机密信息泄露给GAI的未来用户. 如果澳门赌场官网不满意的话, 她不应向GAI透露客户机密信息或不应使用GAI.

许多当前可用的GAI产品都邀请用户与其进行对话. 澳门赌场官网用户寻求GAI生成法律理论，以支持其客户的索赔或辩护. 他们也可以分享自己的法律或事实理论，希望GAI能够提供法律和事实支持. 然后，澳门赌场官网通过后续询问对回复作出反应. 通过这些输入, 澳门赌场官网实际上可能是在向GAI透露她的心理印象，希望得到进一步的支持和完善她的策略. 与此同时, 一些GAI程序可能会保存澳门赌场官网的输入(或“提示”)和GAI自己的输出，以便将来的用户可以使用这些“内容”.

澳门赌场官网对客户事务的心理印象当然是工作成果. 与澳门赌场官网/委托人保密特权分开, 工作成果是我们对手法律体系中最受保护的机密信息之一. 即使法院在要求显示“实质性需要”后命令披露某些工作产品信息,"法庭"必须防止心理印象被泄露, 结论, 意见, 当事人的代理人或者其他代理人与诉讼有关的法律理论.“美联储. R. 文明. P. 26(b)(3)(B); D.C. 超级. Ct. R. 文明. P. 26(b)(3)(B).

输入客户机密信息的澳门赌场官网, 或者他们对客户的心理印象, 进入GAI产品——尤其是“免费”产品——有违反客户保密基本规则的风险. 大多数提供这些服务的科技公司都毫不掩饰他们将如何处理与他们的公共服务相关的任何提交给他们的信息:从他们的角度来看, 用户的输入是他们认为合适的使用和分享.

例如， 隐私政策 ChatGPT的免费产品表明，ChatGPT及其母公司OpenAI:

• [C]收集输入中包含的个人信息, 文件上传, or feedback that you provide to our Services (“Content”); 和
• “[M]可能会使用个人信息……以改进我们的服务和进行研究”和“开发新的项目和服务”.”

事实上, 这一政策表明，他们只是将这些信息视为自己的另一项“资产”，可以被利用并出售给他人。

• 业务转移如果我们参与战略交易, 重组, 破产, 破产管理, 或将服务转换到另一个提供者(统称), “交易”), 您的个人信息和其他信息可能会在与交易对手方和协助交易的其他人的尽职调查过程中披露，并作为该交易的一部分与其他资产一起转移给继承人或关联公司.

未经客户同意, 澳门赌场官网与拥有此类隐私政策的第三方提供商共享客户机密信息，可能会违反规则1规定的保密义务.6. 而且客户不太可能——通常也不应该被要求同意——广泛的披露可能会放弃澳门赌场官网/客户特权，或者使他们最机密和秘密的信息可供第三方看到和使用.¹² 这包括潜在的诉讼对手及其澳门赌场官网，他们也可以访问相同的GAI. 向GAI产品提供客户机密和秘密的澳门赌场官网应确保产品实施了充分的安全保障和控制措施，以确保机密性，并防止未经授权的访问和使用客户信息.

对规则1的注释[5].第6条规定，“只要听者无法确定委托人的身份或所涉及的情况，澳门赌场官网使用假设性的方式讨论与代理有关的问题是允许的。.这可能会诱使GAI用户试图通过匿名化他们提交给GAI的信息来保护客户的机密性. 我们再次敦促谨慎行事. 澳门赌场官网为不断增长的GAI数据集提供的信息越多, GAI或它的其他用户就越有可能将澳门赌场官网提供给有问题的客户的信息联系起来. 毕竟，GAI是人工“智能”.”

如果澳门赌场官网对客户的代表是公开可搜索的信息，这一点尤其正确, 比如诉讼的摘要, 关于诉讼的澳门赌场官网报道, 或者，澳门赌场官网的网站在某种程度上确定了澳门赌场官网处理的特定客户事务，澳门赌场官网自己的网站. 类似的, 如果澳门赌场官网使用这样的服务输入其客户的名字为计费目的, 任何有权访问该服务记录的人都可以将给定的研究请求与可识别的客户联系起来.

即使GAI不能将澳门赌场官网和客户作为提供给GAI的信息的来源联系起来, 如果信息本身由于其保密性而对客户有价值，则仍然存在潜在的危害. 想象一下, 例如, 如果澳门赌场官网与GAI分享客户的商业秘密制造过程，将对客户造成的伤害, GAI后来将这些信息透露给其他寻求更快、更便宜的方法来制造有问题产品的人.¹³

一些GAI产品为解决机密性问题而提供的一种选择是零数据保留策略，在该策略中，GAI的提供者既不保留GAI与特定用户交互的输入，也不保留GAI的输出. 如上所述, 付费使用GAI产品的业务用户可能能够谈判到比提供商为自己的营销和产品开发目的而提供的“免费”服务的用户更好的条款.

C. 澳门赌场官网及其非澳门赌场官网助理的责任

根据规则5.1和5.3, 澳门赌场官网应采取合理措施，确保任何受监督的澳门赌场官网或非澳门赌场官网对GAI的使用符合职业行为规则和本意见中讨论的原则.

规则5.1(a)要求澳门赌场官网事务所的管理人员和澳门赌场官网事务所或政府机构中具有类似管理权的其他澳门赌场官网“作出合理努力，确保事务所采取有效措施，合理保证事务所或机构中的所有澳门赌场官网都遵守《澳门赌场官网》。.规则五.1(b)要求对另一名澳门赌场官网具有直接监督权力的澳门赌场官网“作出合理努力，确保另一名澳门赌场官网遵守职业行为规则”.”

规则5.3将这些义务扩展到在公司、澳门赌场官网或政府机构工作或为其工作的非澳门赌场官网. 根据规则5.3(b), “对非澳门赌场官网具有直接监督权力的澳门赌场官网应作出合理努力，确保该人的行为符合澳门赌场官网的职业义务.同样，根据规则5.3(a), 事务所或政府机构的合伙人或其他澳门赌场官网“单独或与其他澳门赌场官网一起在澳门赌场官网事务所中拥有[]类似的管理权……应作出合理努力，确保事务所或机构……采取有效措施，合理保证当事人的行为符合澳门赌场官网的专业义务。.“因此, 无论是聘请非澳门赌场官网员工的澳门赌场官网，还是聘请非澳门赌场官网员工的澳门赌场官网事务所的经理，或者澳门赌场官网事务所或政府机构中具有类似管理权的澳门赌场官网，都必须采取措施，确保非澳门赌场官网员工遵守澳门赌场官网职业行为规则，并确认遵守澳门赌场官网的道德责任.

在可以预见的情况下，公司或政府机构内部或聘用的澳门赌场官网或非澳门赌场官网将在客户代理中使用GAI, 事务所和聘用澳门赌场官网应采取适当步骤，确保GAI的任何使用都符合《澳门赌场官网》.

一步澳门赌场官网事务所, 澳门赌场官网, 政府机构可以考虑的是要求雇员——澳门赌场官网和非澳门赌场官网——满足规则1规定的客户保密要求.6 .在使用GAI产品之前要进行保护. 例如, 如果对GAI隐私政策的审查确定GAI不会向GAI所有者和澳门赌场官网事务所以外的其他第三方保守客户机密或秘密信息, 澳门赌场官网事务所, 或者政府机构, 规则5.1和5.3可能会禁止监督澳门赌场官网允许被监督人员在客户事务中使用GAI. 在没有明确隐私政策的情况下, 监督澳门赌场官网应考虑指示雇员进行其他询问，以确保客户的机密性得到保护.

另一个步骤可能是要求澳门赌场官网和非澳门赌场官网在澳门赌场官网事务所内部或由澳门赌场官网事务所聘请, 澳门赌场官网, 或政府机构采取措施验证他们使用的GAI输出的准确性. 在某一时刻, 然而, 与验证相关的时间和成本可能超过导致澳门赌场官网首先考虑使用GAI的任何感知到的好处. 一旦公司为特定目的审查了特定GAI, 它可以要求其澳门赌场官网使用该GAI来实现这些目的，而不是使用公司内部尚未批准的竞争GAI.

D. 公正对待法庭，公正对待对方和澳门赌场官网

诉讼、仲裁事项, 使用包含事实或法律虚假陈述的GAI输出, 或者提供虚假引用, 还包括澳门赌场官网对法庭、对对方和澳门赌场官网的责任. 如果法庭通过了规则或程序或发布命令，要求披露GAI的使用情况，并对GAI的产出进行核查或其他保障，情况尤其如此.

根据规则3.(a)澳门赌场官网不得故意:¹⁴

• (一)向法庭陈述虚假事实或者法律的，或者对澳门赌场官网先前向法庭陈述的重大事实或者法律的虚假陈述不予改正的, 除非更正需要披露规则1所禁止的资料.6;
  
  * * *
  
  (3) Fail to disclose to the tribunal legal authority in the controlling jurisdiction not disclosed by opposing counsel 和 known to the 澳门赌场官网 to be dispositive of a question at issue 和 directly adverse to the position of the client; or
  
  (4)提供澳门赌场官网明知是虚假的证据，但(b)段另有规定的除外。[在刑事案件中为被告辩护的]. 澳门赌场官网可以拒绝提供证据, 除了刑事案件中被告的证词, 澳门赌场官网有理由相信是错误的.

这些义务“将持续到诉讼结束”.规则三.3(c). “澳门赌场官网收到明确证明法庭遭受欺诈的资料时，应迅速采取合理的补救措施, 包括在第1条所允许的范围内向审裁处披露.6(d).规则三.3(d).

对该规则的评论专门针对虚假引用的使用，类似于由GAI生成的引用 马塔. “基于故意虚假陈述法律的法律论据构成对法庭的不诚实. 澳门赌场官网不需要对法律作出公正的解释, 但必须承认相关法律权威的存在.规则三.3 cmt. [3].

类似地，规则3.第4条对对方当事人和澳门赌场官网规定了一定的公平义务. 在这些义务中，澳门赌场官网不得:

• “充分证据”(规则3).4(b)); or
• “(k)明知不遵守法庭规则所规定的义务，但基于声称不存在有效义务而公开拒绝的除外”(规则3).4(c)).

规则3.当仲裁庭通过规则或发布命令限制或以其他方式管理与程序有关的GAI的使用时，第4(c)条生效, 而澳门赌场官网不遵守这些规则或命令.¹⁵

E. 费用

根据规则1.5(a)“[a]澳门赌场官网费应合理.“该规则提供了一份非排他性的清单，列出了在评估收费合理性时要考虑的八个因素。. 分别, 当“澳门赌场官网没有定期代表委托人”时,澳门赌场官网必须给客户发一份书面文件，说明“收费的基础或费率”, 澳门赌场官网代理的范围, 以及由客户负责的费用.规则1.5(b). 该书面陈述必须在陈述开始之前或之后的合理时间内发出.” Id.

如果澳门赌场官网打算向客户收取使用GAI的费用，而澳门赌场官网需要支付自付费用, 根据本规则，预期成本是应告知客户的费用.

另外:

• 毫无疑问，一个澳门赌场官网如果承诺按小时收费，那么他向客户收取没有实际花费的时间是不合理的. 如果澳门赌场官网同意在此基础上向客户收费(i.e., 每小时), 事实证明，澳门赌场官网在完成给定结果时效率特别高, 然而，不允许向客户收取超过实际花费的时间. 当客户同意该计费基础时, 与结果相关的经济必须适应客户的利益.

D.C. 法律伦理意见267 (1996)(引用美国澳门赌场官网协会正式伦理意见379 (1993)).

当一个澳门赌场官网花费大量的时间和精力为一个客户准备一份详细的法律研究备忘录时，这个问题就会发生一个熟悉的变化, 给第一个客户, 按澳门赌场官网的时薪计算，这是一笔不小的开支. 此后不久，第二个客户碰巧问了同样的法律问题. 调整第一个备忘录以供第二个客户使用所花费的时间要比最初创建备忘录所花费的时间少得多. 虽然澳门赌场官网可能会认为这是不公平或不合理的收取第二个客户只是第一个客户支付了这么有价值的法律研究的一小部分, 如果澳门赌场官网与第二个客户的计费安排完全基于小时费率，则需要这样做.

当GAI的使用减少了计费时间，并且澳门赌场官网与客户的费用协议完全基于澳门赌场官网在该事项上花费的时间时，情况也是如此. 不管GAI的输出有多好或多有价值, 没有不同的收费安排, 澳门赌场官网只能为他所花费的时间买单. 如上所述, 如果澳门赌场官网与客户达成协议，允许澳门赌场官网为GAI本身的合理费用开具账单，则GAI本身的合理费用可以作为费用项目计费.

F. 客户端文件

当陈述终止时，规则1.16(d)要求澳门赌场官网做几件事, 包括“交出客户有权拥有的文件和财产”.正如我们在 D.C. 法律伦理意见333 (2005), 该规则要求生成“整个文件”,，包括反映意见的内部笔记和备忘录副本, 澳门赌场官网的思考与策略.虽然澳门赌场官网没有被要求保留在代理客户期间产生或收到的每一张纸或电子资料, 澳门赌场官网应考虑是否应将与GAI有关客户事务的具体互动保留为客户档案的一部分.¹⁶

结论

我们预计GAI最终将成为法律实践的福音. 此外, 使用生成式人工智能的澳门赌场官网不需要成为可以编写人工智能程序或批评他人编写的人工智能代码的计算机程序员. 但他们确实需要充分了解GAI是如何工作的, 它是做什么的, 以及它的风险和局限性，以适应GAI对手头任务的帮助和准确, 而且不会违反客户保密协议. Lawyers should also be mindful of the implications GAI creates for their duties of supervision; their duty of c和or to the tribunal 和 their fairness obligations to opposing parties 和 counsel; the reasonableness of their fees; 和 their obligations with respect 致客户端 file.

出版日期:2024年4月

1. 该意见基于委员会截至2024年第二季度的信息.

2. 虽然不是这个观点的主题, 澳门赌场官网们还应该意识到，GAI有可能为不良行为者的公然欺诈提供便利. 例如, 如果提示这样做, GAI可以制作看似真实的视频或从未发生过的事情的照片, 还有“录音”，听起来像是一个人说了他们从未说过的话.

3. 如下所述，规则1.第6条要求澳门赌场官网对在业务关系中获得的某些信息保密. 这一义务延伸到“机密”(规则定义为“受适用法律下澳门赌场官网-客户特权保护的信息”)和“秘密”(定义为客户要求不受侵犯的从关系中获得的其他信息), 否则泄露出来会很尴尬, 或者可能是有害的, 致客户端.”). 本意见将涉及受规则1保护的资料.6作为“客户机密信息”.除非另有说明，否则本意见中对“规则”的任何引用都将指向D.C. 职业行为准则.

4. 这种GAI工具最初是在有限的数据集上训练的, 不像传统的数据库, 可能不会定期更新. 看到一般 http://atlan.com/dataset-vs-database/#:~:text=A%20dataset%20is%20like%20a,for%20ongoing%20data%20management%20tasks 和 http://databasetown.com/dataset-vs-database-key-differences/. 最初的培训可能不包括与澳门赌场官网想要询问的问题相关的主题, 即使一开始是这样, 这些信息可能没有及时更新.

5. 这个链接和这个意见中的其他链接最后一次访问是在2024年4月. 随着时间的推移，链接上的信息内容可能会改变，或者链接本身可能会停止工作. 在本意见发表后，本意见中的链接将不会被检查或更新.

6. 据我们了解，Westlaw和Lexis现在都提供人工智能辅助的引文检查产品. 看到 Westlaw快速检查 和 Lexis + AI. 而我们无法保证这两种产品, 我们理解他们力求使他们的法律研究数据库在技术允许的情况下尽可能完整和最新.

7. 在被广泛报道几个月后，对ChatGPT政策的检查 马塔 崩溃产生了这样的免责声明:

• 关于准确性的注意事项:像ChatGPT这样的服务通过读取用户的请求来生成响应, 在回应, 预测下一个最有可能出现的单词. 在某些情况下，接下来最可能出现的单词可能并不是最准确的. 出于这个原因，你不应该依赖我们模型的实际准确性.
  
  http://openai.com/policies/privacy-policy (上次访问于2024年4月，反映了11月11日更新的隐私政策. 自2023年1月14日起生效. 31, 2024). 时生效的策略版本 马塔 澳门赌场官网依赖ChatGPT没有此免责声明. 撤案的动议 马塔 是在2023年1月13日提交的，而反对的摘要是在2023年3月1日提交的. 2023 WL 4114965, at *2. 时光机 是否可追溯到2023年2月27日的相关ChatGPT政策. 该政策当时生效(日期为9月11日). 19, 2022)没有“关于准确性的说明”免责声明.
  
  http://web.archive.org/web/20230227230602/http://openai.com/policies/privacy-policy (最后一次访问是2024年4月). 该免责声明的实质内容似乎是在2023年4月27日添加的. http://web.archive.org/web/20230601012741/http://openai.com/policies/privacy-policy (最后一次访问是2024年4月).

8. 美国专利商标局(United States Patent 和 Trademark Office)最近发布了关于澳门赌场官网和其他从业人员使用人工智能工具的详细指南. 美国专利和商标局在实践中使用基于人工智能的工具的指南， 89美联储. 注册. 25609(4月. (“PTO AI指南”). 它讨论了本意见未涉及的一些问题, 包括专利性和可能违反出口管制和国家安全法规. 在专利商标局之前执业的澳门赌场官网，或者其执业会使他们接触到受出口管制或国家安全限制的数据的澳门赌场官网，应该研究这一指导意见.

9. 在撰写本文时，D.C. 上诉法院正在考虑 建议 这将在规则1的注释中增加对技术的引用.1. 根据该提案，对规则1提出评论[5].将第1条加以修正，增加以下强调的措词:

• 对某一特定问题的称职处理包括对问题的事实和法律因素的调查和分析, 方法的使用, 程序, 技术达到合格从业人员的标准. 它还包括充分准备和继续注意代表的需要，以确保不忽视这些需要. 的 required attention 和 preparation are determined in part by what is at stake; major litigation 和 complex transactions ordinarily require more elaborate treatment than matters of lesser consequences.

10. 这假定原始工作产品是(1)胜任的，并且(2)不在GAI的数据库中.

11. ChatGPT的 隐私政策 (下文将讨论)声明，它“不适用于我们代表我们业务产品的客户处理的内容, 比如我们的API. 我们对这些数据的使用受我们的客户协议的约束，该协议涉及访问和使用这些产品.”

12. 看到 D.C. 法律伦理意见309,n.10 (2001年)(注意到放弃保密的门槛很高).

13. 如上所述，PTO人工智能指南:

• 在USPTO之前实际使用人工智能可能导致无意中泄露客户敏感或机密信息, 包括高度敏感的技术信息, 给第三方. 这是可能发生的, 例如, 当一项发明的各个方面被输入到人工智能系统中以执行现有技术搜索或生成规范草案时, 索赔, 或对Office操作的响应. 人工智能系统可以保留用户输入的信息. 人工智能系统的所有者可以以各种方式使用这些信息，包括使用这些数据进一步训练其人工智能模型或将数据提供给第三方，违反从业者对其客户的保密义务……. 如果机密信息被用来训练人工智能, 机密信息或其中的某些部分可能会过滤到人工智能系统提供给其他人的输出中.
  
  89年美联储. 注册. at 25627.

14. 按照《澳门赌场官网》的定义, “[k] nowingly,“知道,'或' knows '表示对所讨论的事实的实际了解. 一个人的知识可以从环境中推断出来.规则1.0(f); In re Soto, 298 A.3d 762, 767 (D.C. 2023)(引用规则1.0(f)). 这是一个很高的门槛，由于澳门赌场官网对GAI或其他技术应用的局限性的无知，通常不会被澳门赌场官网无意的虚假陈述所跨越. 在某种程度上，虚假陈述本可以通过引用检查等普通措施加以防止, 然而, 这名澳门赌场官网仍可能面临制裁, 索赔或其他后果, 澳门赌场官网们也是如此 马塔.

15. 如上所述, GAI技术可以制造假照片, 看起来或听起来非常真实的录音和视频. 这类“深度伪造”文件有可能被用作虚假证据，完全属于规则3的禁止范围.3和3.4.

16. 澳门赌场官网可以自费保留一份客户档案的副本. 看到 D.C. 法律道德 Opinion 273 (1997); D.C. 法律伦理意见. 2 (1994).