인공지능 '환각' 현상이 법정 서류 제출 오류 야기, 유명 로펌 인정
A.I. ‘Hallucinations’ Created Errors in Court Filing, Top Law Firm Says
The New York Times
· 🇺🇸 New York, US
Santul Nerkar
EN
2026-04-22 07:39
Translated
Sullivan & Cromwell이 인공지능이 작성한 가짜 판례 인용으로 가득한 법정 서류를 제출한 것에 대해 사과했다.
월스트리트의 엘리트 로펌이 인공지능이 만든 오류로 가득한 법정 서류를 제출한 것에 대해 연방 판사에게 사과했으며, 여기에는 허위의 판례 인용을 만들어낸 "환각" 현상도 포함되어 있었다.
인공지능이 생성한 오류는 맨해튼의 미국 파산법원에서의 최근 소장에 포함되었으며, 반대 로펌의 변호사들에 의해 발견되었다. Sullivan & Cromwell의 파트너인 Andrew Dietderich는 4월 18일 Martin Glenn 판사에게 보낸 편지에서 이를 밝혔다.
"이런 일이 발생한 것에 대해 깊이 사과드립니다"라고 Dietderich가 작성했다.
이 로펌은 3페이지에 걸친 오류 목록을 제공했으며, 총 약 3십여 개의 오류가 있었다. 많은 오류는 실제 판례의 허위 구절 인용과 관련된 것이었다.
Sullivan & Cromwell은 미국에서 가장 오래되고 명망 높은 로펌 중 하나이다. 이 로펌은 트럼프 대통령을 여러 항소 사건에서 대리하고 있으며, 여기에는 포르노 배우에 대한 입금 사건으로부터 비롯된 2024년 형사 유죄 판결도 포함된다. 현재 미국 남부지구 검사인 Jay Clayton은 과거 이 로펌의 자문변호사 및 파트너였다.
이 사과는 인공지능을 사용하여 오류 있는 주장을 작성한 것으로 발각된 변호사들의 최근 창피한 실수를 드러냈다. 법조계는 방대한 법률 자료 조사에 종사하는 변호사들을 유혹하고 있으면서도 법적 허위를 생산할 가능성이 있는 인공지능의 증가하고 광범위한 사용에 대한 정산을 겪고 있다.
최근 몇 년간의 여러 사건들은 인공지능 사용이 변호사들에게 미치는 위험을 조명해왔다. 2023년, 맨해튼의 연방 판사는 ChatGPT가 만든 허위 판례 소장을 제출한 두 변호사에게 5,000달러의 벌금을 부과했다.
미국 변호사 협회는 변호사들에게 인공지능 모델에 질문을 제시하거나 결과를 검색할 때 주의를 기울릴 것을 지시했다. Dietderich는 편지에서 이 로펌의 인공지능 사용 정책이 소장 작성 시 "준수되지 않았다"고 작성했다.
Sullivan & Cromwell이 어느 인공지능 도구나 프로그램을 사용했는지는 명확하지 않다. 이 로펌의 대변인은 논평을 거부했다. 편지 뉴스는 이전에 로이터에 의해 보도되었다.
Sullivan & Cromwell이 제출한 환각 현상은 캄보디아 재벌인 Prince Group 관련 사건에서 발생했다. 창립자 Chen Zhi는 지난해 브루클린 연방지방법원에서 국제 사기 조직을 운영했다는 혐의로 기소되었다.
그의 변호사들과 대리인들은 혐의를 부인했다. Chen은 기소 발표 당시 미국에 있지 않았으며, 1월에 캄보디아에서 중국으로 송환되었다.
4월 8일, 영국령 버진아일랜드에 많은 사업체가 설립된 캄보디아 재벌 Prince Group은 맨해튼에서 파산을 신청했다. Sullivan & Cromwell은 영국령 버진아일랜드 당국이 임명한 Prince Group의 청산 자산을 그 지역에서 감독하도록 임명된 사람들 그룹을 대리하고 있다.
오류 중 일부는 Prince Group을 대리하는 로펌 Boies Schiller Flexner의 변호사들에 의해 공개 서류에서 발견되었다. 이 로펌의 대변인은 논평을 거부했다. 오류를 인식한 후, Dietderich는 이 사건의 다른 모든 서류에 대한 검토를 수행했다고 작성했다. 인공지능 환각 현상은 단일 서류에만 포함되었다고 그는 작성했다.
Dietderich의 편지에 따르면, Sullivan & Cromwell은 변호사들이 인공지능 도구에 접근하기 전에 교육 과정을 이수하도록 요구한다. Dietderich가 작성한 바와 같이, 교육의 권고 사항 중 하나는 "아무것도 신뢰하지 말고 모든 것을 확인하라"는 것이다.
Santul Nerkar는 브루클린의 연방법원을 담당하는 타임스 기자이다.
인공지능이 생성한 오류는 맨해튼의 미국 파산법원에서의 최근 소장에 포함되었으며, 반대 로펌의 변호사들에 의해 발견되었다. Sullivan & Cromwell의 파트너인 Andrew Dietderich는 4월 18일 Martin Glenn 판사에게 보낸 편지에서 이를 밝혔다.
"이런 일이 발생한 것에 대해 깊이 사과드립니다"라고 Dietderich가 작성했다.
이 로펌은 3페이지에 걸친 오류 목록을 제공했으며, 총 약 3십여 개의 오류가 있었다. 많은 오류는 실제 판례의 허위 구절 인용과 관련된 것이었다.
Sullivan & Cromwell은 미국에서 가장 오래되고 명망 높은 로펌 중 하나이다. 이 로펌은 트럼프 대통령을 여러 항소 사건에서 대리하고 있으며, 여기에는 포르노 배우에 대한 입금 사건으로부터 비롯된 2024년 형사 유죄 판결도 포함된다. 현재 미국 남부지구 검사인 Jay Clayton은 과거 이 로펌의 자문변호사 및 파트너였다.
이 사과는 인공지능을 사용하여 오류 있는 주장을 작성한 것으로 발각된 변호사들의 최근 창피한 실수를 드러냈다. 법조계는 방대한 법률 자료 조사에 종사하는 변호사들을 유혹하고 있으면서도 법적 허위를 생산할 가능성이 있는 인공지능의 증가하고 광범위한 사용에 대한 정산을 겪고 있다.
최근 몇 년간의 여러 사건들은 인공지능 사용이 변호사들에게 미치는 위험을 조명해왔다. 2023년, 맨해튼의 연방 판사는 ChatGPT가 만든 허위 판례 소장을 제출한 두 변호사에게 5,000달러의 벌금을 부과했다.
미국 변호사 협회는 변호사들에게 인공지능 모델에 질문을 제시하거나 결과를 검색할 때 주의를 기울릴 것을 지시했다. Dietderich는 편지에서 이 로펌의 인공지능 사용 정책이 소장 작성 시 "준수되지 않았다"고 작성했다.
Sullivan & Cromwell이 어느 인공지능 도구나 프로그램을 사용했는지는 명확하지 않다. 이 로펌의 대변인은 논평을 거부했다. 편지 뉴스는 이전에 로이터에 의해 보도되었다.
Sullivan & Cromwell이 제출한 환각 현상은 캄보디아 재벌인 Prince Group 관련 사건에서 발생했다. 창립자 Chen Zhi는 지난해 브루클린 연방지방법원에서 국제 사기 조직을 운영했다는 혐의로 기소되었다.
그의 변호사들과 대리인들은 혐의를 부인했다. Chen은 기소 발표 당시 미국에 있지 않았으며, 1월에 캄보디아에서 중국으로 송환되었다.
4월 8일, 영국령 버진아일랜드에 많은 사업체가 설립된 캄보디아 재벌 Prince Group은 맨해튼에서 파산을 신청했다. Sullivan & Cromwell은 영국령 버진아일랜드 당국이 임명한 Prince Group의 청산 자산을 그 지역에서 감독하도록 임명된 사람들 그룹을 대리하고 있다.
오류 중 일부는 Prince Group을 대리하는 로펌 Boies Schiller Flexner의 변호사들에 의해 공개 서류에서 발견되었다. 이 로펌의 대변인은 논평을 거부했다. 오류를 인식한 후, Dietderich는 이 사건의 다른 모든 서류에 대한 검토를 수행했다고 작성했다. 인공지능 환각 현상은 단일 서류에만 포함되었다고 그는 작성했다.
Dietderich의 편지에 따르면, Sullivan & Cromwell은 변호사들이 인공지능 도구에 접근하기 전에 교육 과정을 이수하도록 요구한다. Dietderich가 작성한 바와 같이, 교육의 권고 사항 중 하나는 "아무것도 신뢰하지 말고 모든 것을 확인하라"는 것이다.
Santul Nerkar는 브루클린의 연방법원을 담당하는 타임스 기자이다.
처리 완료
3,184 tokens · $0.0088
기사 수집 완료 · 08:15
매체 피드에서 기사 메타데이터 수집
헤드라인 번역 완료 · 15:23
제목/요약 한국어 번역 (fetch 시점 inline)
kimi-k2.5
0 tokens
$0.00000
0.2s
본문 추출 완료
3,600자 추출 완료
본문 한국어 번역 완료 · 15:23
1,854자 번역 완료
claude-haiku-4-5-20251001
3,184 tokens
$0.00877
16.1s
지정학적 엔티티 추출 완료 · 15:23
6개 엔티티 추출 완료
지정학적 맥락 & R-Scanner
R-Scanner · 상승
z=0.97
평소보다 보도량이 증가 추세 — 기준: Manhattan
(🇺🇸 US)
최근 6시간 44건
7일 평균 37.96건 / 6h
8개국 매체
12개 매체
본문에서 추출된 지명 (6)
위치 지도
지도 로딩 중…
같은 주제의 다른 기사 (최근 7일)
Sullivan & Cromwell apologized for submitting a court document that had fake citations created by artificial intelligence.
An elite Wall Street law firm has apologized to a federal judge for submitting a court filing replete with errors created by artificial intelligence, including “hallucinations” that fabricated case citations.The A.I.-generated errors came in a recent motion in U.S. Bankruptcy Court in Manhattan and were discovered by lawyers from an opposing firm, Andrew Dietderich, a partner at Sullivan & Cromwell, wrote in a letter to Judge Martin Glenn on April 18.
“We deeply regret that this has occurred,” Mr. Dietderich wrote.
The firm provided a ledger of the errors, which spanned three pages and totaled around three dozen. A number of them involved the citation of seemingly imagined passages from real cases.
Sullivan & Cromwell is one of the oldest and most prestigious law firms in the country. It is representing President Trump in several appeals, including his criminal conviction in 2024 in a case that stemmed from a hush-money payment to a porn star. Jay Clayton, now the U.S. attorney for the Southern District of New York, was of counsel and formerly a partner at the firm.
The apology revealed the latest embarrassing blunder for lawyers found to have used A.I. in crafting erroneous arguments. The legal profession is undergoing a reckoning over the growing and widespread use of A.I., which is luring lawyers dealing with voluminous research even as it has a propensity to spit out legal falsehoods.
A spate of cases in recent years has illuminated the dangers that using A.I. poses to lawyers. In 2023, a federal judge in Manhattan fined two lawyers $5,000 after they submitted a brief of made-up cases, concocted by ChatGPT.
The American Bar Association has instructed lawyers to exercise caution when posing prompts to A.I. models or retrieving results. Mr. Dietderich wrote in his letter that the firm’s policies governing the use of A.I. were “not followed” in preparing the motion.
It is not clear which A.I. tools or program were used by Sullivan & Cromwell in generating the errors. A spokesman for the firm declined to comment. The news of the letter was reported earlier by Reuters.
The hallucinations filed by Sullivan & Cromwell came about in a case involving the Prince Group, a Cambodian conglomerate whose founder, Chen Zhi, was indicted in Federal District Court in Brooklyn last year on charges that he operated a global scam operation.
His lawyers and representatives have denied the charges. Mr. Chen, who was not in the United States when the indictment was announced, was extradited from Cambodia to China in January.
On April 8, the Prince Group, a Cambodian conglomerate with a number of business entities incorporated in the British Virgin Islands, filed for bankruptcy in Manhattan. Sullivan & Cromwell is representing a group of people appointed by the authorities in the British Virgin Islands to oversee the Prince Group’s liquidated assets in that territory.
Some of the errors were identified by lawyers from Boies Schiller Flexner, the law firm representing the Prince Group, in a public filing. A spokesman for the firm declined to comment. After learning of the errors, Mr. Dietderich wrote, the firm conducted a review of all other filings in the case. The A.I. hallucinations were contained to the single filing, he wrote.
According to Mr. Dietderich’s letter, Sullivan & Cromwell requires its lawyers to take a training course before it gains access to A.I. tools. Among the training’s exhortations, Mr. Dietderich wrote, is to “trust nothing and verify everything.”
Santul Nerkar is a Times reporter covering federal courts in Brooklyn.