新南威爾士州（NSW）首席大法官安德魯·貝爾（Andrew Bell）對人工智能在司法系統中的影響提出警告，並在去年11月發布了適用於新州最高法院的實踐備忘錄，以限制人工智能技術的使用，該限制令於今日（2月3日）正式生效。

該規定包括禁止使用AI生成包括宣誓書（affidavits）、證人陳述（witness statements）及品格推薦信（character references）等法律文件內容。此外，任何使用人工智能來增強、削弱或改變證人證詞的行為也被明令禁止。

首席大法官指出，大型科技公司的影響力和對人工智能數據的操控能力，應促使新州司法系統對該技術的使用保持謹慎態度。他形容新州最高法院對AI的立場是嚴格且保守的，因此對法律界、無律師代理的訴訟當事人及法官均設置了部分禁令。

貝爾大法官表示，「坦白講，大型科技公司對人工智能的掌控能力，以及決定系統內包含或不包含哪些基礎數據的影響力，使我認為我們應該謹慎行事。」

他強調，人工智能能夠產生看似真實的證據，但如果這些證據並非由當事人實際提供，那將徹底破壞司法程序的可信度。

相比之下，維多利亞州最高法院對AI的態度較為寬鬆。該法院僅要求在使用AI協助準備書面證據時，必須特別謹慎，並未完全禁止AI參與證據材料的生成。

當被問及法官如何判斷證據是否由AI生成時，貝爾大法官承認，法院主要依賴誠信原則，要求證據提供者確認其材料未使用人工智能生成。

貝爾表示，「生成式人工智能的進步，使得它能夠創造出表面上連貫、清晰且極具真實感的文本或影像，這對法院來說是一個挑戰。」