发布日期：2024-09-27 22:55 点击次数：56
泷川雅美视频
在东说念主工智能范围，近期一个引东说念主注主义实验恶果引发了粗豪的接头。伊利诺伊大学香槟分校的筹备团队进行了一项筹备，他们构建了一个黑客智能体框架，并测试了包括GPT-4、GPT-3.5在内的10个模子。实验的中枢发现是，唯有GPT-4梗概在阅读CVE（大家症结和解析）症结花样后，学会垄断这些症结进行报复，其生服从达到了惊东说念主的87%，而其他模子的生服从则为0%。
这项筹备的辛苦性在于它展示了GPT-4在汇集安全范围的潜在胁迫。筹备东说念主员野心了一个详备的报复经由，GPT-4接纳到报复指示后，梗概垄断一系列器用和CVE症结数据库信息进行处理，并最终生效执行双花报复（double-spend attack）。在执行过程中，GPT-4还会探求并发报复的情况和相应的响应战略，这标明其报复行动的复杂性和智能性。
为了进行这项实验，筹备东说念主员汇集了15个的确寰宇的One-Day症结数据集，这些症结波及网站、容器搞定软件和Python包，其中8个被评为高档或关节严重症结。这些症结的中式门径是它们如故向上了GPT-4基础模子的常识截至日历，意味着GPT-4必须及时学习和垄断这些症结信息。
在本钱方面泷川雅美视频，筹备东说念主员计较了使用GPT-4智能体报复症结的平均本钱。恶果自满，每次垄断症结的本钱仅为3.52好意思元，主要来自输入token的用度。要是探求到悉数数据集上40%的生服从，每次生效垄断症结的平均本钱约为8.8好意思元。
免费午夜电影然则，这项筹备也存在一些局限性。举例，GPT-4在测试中未能生效垄断两个症结，Iris XSS和Hertzbeat RCE。筹备东说念主员合计，GPT-4难以处理Iris平台，因为其导航主要通过JavaScript终了，而Hertzbeat的花样是用中语写的，这可能导致了GPT-4的浑浊和剖判上的困难。
此外，筹备东说念主员还发现，要是去掉CVE的花样，GPT-4的生服从从87%下落到了7%，这标明关于大模子而言，发现症结比垄断症结更难。尽管如斯，GPT-4仍能在33.3%的情况下正确识别出存在的症结，但只可垄断其中的一个。要是只探求GPT-4常识截至日历之后的症结，它梗概找到55.6%的症结。
这项筹备的恶果引起了公众的极大温和，尤其是在汇集安全范围。一些网友对实验恶果暗示担忧，合计这可能会刺激低级黑客行动，同期也促使企业愈加温和汇集安全。另一方面，也有网友建议品评，合计实验夸大了胁迫，指出测试的15个症结中有5个为易攻破的XSS症结。
OpenAI手脚GPT-4的开导者，如故相识到这项筹备的潜在影响，并条款筹备东说念主员不要向公众发布该筹备的提醒词，以防御坏心使用。这一举措体现了OpenAI关于AI本事安全性的喜爱，也反应了悉数行业关于AI本事可能带来的风险的温和。
尽管存在争议，这项筹备无疑为AI安全范围提供了珍摄的见解。它揭示了即使是来源进的AI模子，也可能成为汇集安全的胁迫。这条款咱们在享受AI本事带来的便利的同期，也要对其潜在的风险保捏警惕，并接纳相应的防御措施。
在明天，跟着AI本事的阻抑发展，咱们不错料思到更多的筹备将靠拢在普及AI模子的安全性上。这包括改变模子的野心，以减少其被用于坏心主义的可能性，以及开导更灵验的防御措施，以扞拒由AI启动的汇集报复。同期，也需要加强法律轨则的建设，以程序AI本事的应用，并保护个东说念主和企业的数据安全。
GPT-4化身黑客的实验恶果，不仅展示了AI本事在汇集安全范围的双刃剑特质，也为咱们敲响了警钟。在AI本事日益融入咱们生涯的今天，如何均衡其带来的利益与风险，将是咱们必须濒临的一个辛苦课题。
深不行测的黑客齐能用提醒词+GPT 4进行扮装璜演泷川雅美视频，不得不传颂大模子的后劲弘大，后头得好勤学学提醒词工程，引发个独角兽创业公司CEO出来，我给他打工算了~