好意思国的立法者还莫得找到一种有用的花式来减少伪善内容的产生和传播--即强制要求平台使用亲社会扰乱法子三级伦理快播电影。
18+动漫泰勒·斯威夫特(Taylor Swift)曾有顷地诱骗了数百名立法者的主见,那时一个以共享“辱女图片”为方针的Telegram群组在网上庸俗传播假冒斯威夫特的性爱图片。这些图片的赶紧传播让政事家们毅力到选用监管行动的必要性。具体来说,立法者们毅力到有必要罢休通过东谈主工智能(AI)生成的伪善内容的创建和传播。
在Swift deepfakes事件发生后的几个月里,立法者们提议了无数提案,但国会对非真正内容进行挑升想立法的窗口期正在赶紧关闭。众议院和接洽院在选举前惟有不到40天的会期。
打击特别信息传播最有用的监管有狡计之一仍然摆在桌面上:带领社交媒体平台使用它们仍是掌抓的器用。
平台领有最可靠、最有用的器用来减少不真正内容的创建和传播。目下,这些器用的使用由平台自行决定,而大多数平台遴荐不使用这些有用的扰乱法子。国会不错通过强制要求平台使用经由考证的器用来减少用户创建不真正内容的几率,从而变嫌这种错失良机的情况。与其在目下加强执行过时、无效的法律,或通过不太可能系统科罚这一伏击问题的新法律的基础上,立法花式将有所变嫌。
非真正内容的传播问题
像ChatGPT这么的生成式东谈主工智能器用让更多行为者更容易创建和传播非真正内容,收罗安全和基础设施安全局将其界说为“不磋商诓骗意图而传播和扩散的特别信息”。从有毒Telegram群组的成员到可能与克里姆林宫有磋商的俄罗斯二重身公司(Russia's Doppelganger)的个东谈主,不良行为者齐应用这些器用传播多样内容,从名东谈主的假性像片到社交媒体上对于乌克兰斗殴等争议话题的特别批驳。OpenAI最近线路,来自俄罗斯、伊朗、以色列和其他大国的收罗影响力行动应用ChatGPT生成多话语的此类批驳,并调试多样应用范例的代码,以便更快地共享这些内容。
不真正内容的鼎力传播会产生首要而经久的影响。目下,OpenAI薪金称,“这些影响力行动仍在勤恳建造受众群”。跟着包括OpenAI和Anthropic在内的东谈主工智能实验室推出更强项的器用,以及不良行为者成为更详确的用户,这种情况不太可能不竭下去。这种组合将使不真正内容的传播更具羁系性和广大性。
怎么更好地应付这种可能的已往是一个未决问题。计谋制定者似乎热衷于使用一套传统器用来冗忙此类内容的传播。拟议的立法应付法子充其量是无效的,而更有可能是分裂驻扎力的开端,从而收缩寻求更有针对性的立法的意愿。
倡导加强执行现存的、过时的法律或实施新的法律,看起来是一种相宜的监管对策。不外,为行动而行动并不是面前所需要的。立法资源最好用于要求平台选用经由内行分析的扰乱法子,并科罚内容创作自己的问题。
三级伦理快播电影
新立法和"旧"法律的局限性
1月底,泰勒·斯威夫特的特别图片在收罗上疯传之后,白宫和寰球各州的立法者敕令选用立法行动。与此同期,OpenAI线路了不良行为者怎么应用ChatGPT制造和传播特别信息,再次激励了对影响力行为进行监管的呼声。
看成回复,立法者们急促通过饱读吹加强现存法律的执行以及制定新律例来打击不真正内容。华盛顿州立法机构通过了一项法律,将线路假造的(即东谈主工智能生成的)好意思妙图像定为坐法。印第安纳州也颁布了一样的律例,田纳西州亦是如斯。在紧接着斯威夫特事件的新闻发布会上,白宫新闻通知卡琳·让·皮埃尔(Karine Jean-Pierre)敕令国和会过相应的立法。
问题在于,尚不了了此类立法是否是科罚这些问题的最好路线。由于社交媒体内容数目雄壮,拟议中的立法和几个州仍是出台的磋商法律可能会有所欠缺,使得大限制国法险些不行能。国法资源老是逾期于法律一致和全面实施所需的资源。在内容监管方面,国法不力尤其令东谈主担忧,因为内容常常抒发了个东谈主最伏击的不雅点和厚谊。当法律取得执行时,在数百或数千名撰写了一样内容的用户中,决定对别称用户使用法律的力量可能会显得果断,从而激励刚直范例问题。
以州为基础的提案面对的一个大问题是统帅权。州法院无权璷黫把一个好意思国东谈主奉上法庭,更毋庸说来自其他国度的用户了。蒙大拿州最高法院最近作念出了一项裁决,其中多数东谈主以为,别称纽约东谈主不错因在Facebook上发布的广大帖子而被提交蒙大拿州法院,这可能预示着属东谈专揽辖权的放宽。但就目下而言,详情违纪内容传播“发生地”的清苦可能会停止新州法律的严格执行。
联邦立法引起怀疑的另一个原因是:言论受到罢休。对于这些问题的全面详尽值得另撰文求教。当今,咱们先来护理一下国会决定设置的番邦不良影响中心(FMIC),它说明了东谈主们对政府勤恳消亡特别信息的担忧。FMIC权限常常、任务暧昧,这为怀疑政府干猜测想商场的东谈主提供了满盈的担忧原理。
FMIC设置于2022年,从属于国度谍报局局长办公室,旨在和谐政府冗忙“番邦政府、非国度行为者或其代理东谈主为影响他国环球或政事派头、不雅念或行为而进行的颠覆性、未陈诉、威迫性或坐法行为”的勤恳。针对FMIC的设置,“司法不雅察”组织告状了国度谍报总监,要求其提供关联FMIC涉嫌审查社交媒体用户的信息。接洽员马克·华纳(Mark Warner)等官员质疑,鉴于一样的办公室已有磋商狡计,FMIC是否有必要设置。最近,众议员吉姆·乔丹(Jim Jordan,俄亥俄州)传唤国度谍报总监,要求其提供“[ODNI]、私营公司和其他第三方团体之间的通讯”。乔丹称,国度谍报总监办公室和通盘行政部门“威迫并联接公司和其他中介机构审查言论”。
这些提案和法律并莫得为不真正内容的增多提供系统性的科罚有狡计。根据国度法律逐一减少此类内容传播的作念法,无异于以为收拢一只兔子就能减少蚁群数目。假Swift图片在短短几天内就在宽广平台上被数百万用户浏览。即使是FMIC也无法庸俗改变平台用户和生成式东谈主工智能用户创建和传播不真正内容的技能。
平台不错也应该带头打击不真正内容
新颖而必要的立法对策将要求平台使用其已掌抓的熟习器用。根据《通讯体面法》第230条,平台对内容审核领有庸俗的解放裁量权。淌若平台舒服,它们不错大大增多用户创建和共享不真正内容的难度。问题是,它们很少遴荐这么作念。这恰是国会应该介入并强制要求平台选用扰乱法子,以减少不真正内容的创建。
怎么最好地制造这种摩擦是一项严谨的研究课题。亲社会遐想收罗(Prosocial Design Network)旨在共享“以笔据为基础的遐想本质,使东谈主性在收罗上取得最好的阐发”,该收罗防御着一个潜在的平台扰乱法子数据库,以促进更健康的信息生态系统。这些作念法应由平台自觉承袭,以阻毫不真正的内容,或以立法样式加以规矩。
亲社会遐想收罗根据训诫笔据的进度,对每项扰乱法子进行置信度评级,从“算计”到“考证”不等。在描述潜在违游记为的警告屏幕后荫藏潜在违纪内容的的确度品级为“算计”。从表面上讲,这种审核器用为平台提供了一个介于删除和推论内容之间的中间地带。不外,这种内容真金不怕火狱并未达到预期后果。与此磋商的是,对于内容可能包含明锐话题的警告标签在减少此类内容传播方面只取得了推论撑持。
平台不错况兼应该优先磋商“经由考证的”扰乱法子,以减少不真正和犯科内容的传播。一个狭窄但有用的才略可能是简便地制定关联东谈主工智能生成内容的创建和传播的范例。简而言之,这类扰乱尽头于平台领导用户在发布内容前审查范例。这种扰乱法子背后的表面——共享内容前的范例领导将栽培对这些范例的谨守——仍是由实证进修。2019年在Reddit上进行的一项实验和2022年在Nextdoor上进行的一项实验齐标明,这种简便的领导不仅能对磋商帖子的内容产生挑升想的亲社会影响,还能对帖子可能激励的批驳产生影响。这种扰乱法子是否会对Facebook或TikTok用户产生一样的影响,目下尚无定论,但这种低资本的扰乱法子十足值得一试。
一种“令东谈主降服”的扰乱法子是应用东谈主工智能检测可能违抗社区范例、法律或两者的帖子草稿,从而部署东谈主工智能来“作念善事”。从纸面上看,这种扰乱法子会让想散播反社会内容的用户有所牵挂,从而缩短他们共享这些内容的几率。OpenWeb在同名平台上进行的一项私东谈主研究证据了这一扰乱法子的有用性。在被领导从头磋商其帖子的用户中,约有一半遴荐了修改或排除其内容。在Twitter(当今的X)上进行的一样实验标明,与对照组比较,主动领导使用户发布的转折性推文减少了6%。
亲社会遐想收罗还包括好多值得平台和计谋制定者磋商的扰乱法子。天然这些法子看起来不像新法律或新器用那么伏击,但这恰是问题场合——平台领有随手可取的易于实施的扰乱法子,这些法子已被证明能积极改变用户行为。事实上,这些扰乱法子比其他扰乱法子更容易实施,这是刻意为之,而非巧合。看成对内容和用户行为领有最大限度权的参与者,平台自己应成为监督职责的要点。淌若平台未能自觉实执行之有用的扰乱法子,那么立法者就应规矩平台有法律包袱这么作念。
尽管此类法律理当受到《第一修正案》的审查,但它们很可能经得起审查。第一修正案并不妨碍国会带领平台改变内容流。大数据初创企业早期风险基金Data Elite的首席运营官索菲亚·格拉法纳基(Sofia Grafanaki)指出,平台的遐想,包括决定哪些内容能战争到更多用户的算法,超出了“第一修正案表面的中枢”。她的原理是,这种遐想遴荐有别于对于平台允许哪些内容的裁剪决定。不外,瞎想的情况是,平台只需相持我方提议的价值不雅,如“建造社会价值”,并在莫得立法带领的情况下选用这些扰乱法子。
东谈主工智能实验室也能减少不真正内容的产生。OpenAI省略发现花费ChatGPT的不良行为者,这标明该公司有才智瑰丽违抗器用要求的用户。这些技能不错况兼应该取得公司的持续投资。加大对检测才智的投资将撑持OpenAI的说法,即它正在积极尝试罢休不真正内容的创建和传播。实验室还不错况兼应该通过要求某种样式的身份考证来增多创建账户的难度。终末一个策略可能是罢休领有免费账户的用户只可使用指定列表中的领导。整个这些策略齐不存在法律冗忙,况兼相对容易实施。
论断
东谈主工智能生成的图片等不真正内容的泛滥给立法者和平台齐带来了巨大的挑战。尽管最近州一级立法勤恳处分此类内容的创作家,但这些法律在执行和统帅权方面面对实质罢休,因此不及以选用全面的监管对策。此外,由于时期和行为上的症结,传统法律和应付法子(如对东谈主工智能生成的内容打上水印)可能无法有用拦阻非真正内容的传播。
更有远景的花式是平台层面的扰乱。与立法者比较,平台不错更容易地实施并依期微调有用法子,如生成警告屏幕、拓荒范例性领导以及使用东谈主工智能检测潜在违纪帖子。这些扰乱法子取得了亲社会遐想收罗(Prosocial Design Network)的认同,为培养更健康的收罗行为提供了积极的技能。平台有包袱也有才智实施这些策略,制造摩擦,冗忙无益内容的传播。淌若平台不竭不履行这一包袱,国会应带领平台实施基于笔据的扰乱法子。这些扰乱法子将改变用户行为,并有助于建造一个更真正的数字环境。
作家简介:凯文·弗雷泽(Kevin Frazier) 是圣托马斯大学法学院的助理进修。他以Tarbell研究员的身份为Lawfare撰稿。著作信源:Lawfare信源先容:Lawfare是一家竭力于国度安全问题的非盈利多媒体出书物三级伦理快播电影,提供深远的法律和计谋分析。它涵盖诸如收罗安全和民主威胁等规模,并通过里面团队与内行和谐,制作包括播客在内的多种内容。该平台还由里面团队和各规模内行构成,发布超越系列和伏击国安文献的分析,旨在促进对国度安全法律和计谋的深远磋商。Lawfare提供超越系列如应酬计谋论文、书评等,发布和整理要津国安文献,如1月6日事件和穆勒拜访磋商文献。信源评级:著作仅供沟通学习,不代表日新说不雅点。