AI 기반 탈중앙화 금융는 새로운 보안 위험을 만듭니다. 이것은 분산 시스템을 보호하기 위해 투명하고 엄격한 감사를 요구합니다.
의견: Jason Jiang, Certik의 최고 비즈니스 책임자.
탈 중앙화 금융 (탈중앙화 금융) 생태계는 창립 이래로 분산 된 거래소 (DEX)에서 대출 및 차용 프로토콜, 스테이블 코인 등에 이르기까지 혁신에 의해 정의되었습니다.
최신 혁신은 인공 지능으로 구동되는 Defai 또는 De Fi입니다. Defai 내에서 대규모 데이터 세트에 대해 훈련 된 자율 봇은 거래를 실행하고 위험을 관리하며 거버넌스 프로토콜에 참여함으로써 효율성을 크게 향상시킬 수 있습니다.
그러나 모든 블록 체인 기반 혁신의 경우와 마찬가지로 Defai는 암호화폐 커뮤니티가 사용자 안전을 개선하기 위해 해결 해야하는 새로운 공격 벡터를 도입 할 수도 있습니다. 이를 위해서는 보안을 보장하기 위해 혁신과 함께 제공되는 취약점을 복잡하게 살펴볼 필요가 있습니다.
블록 체인 내에서 Mostsmart Contractshave는 전통적으로 간단한 논리로 작동했습니다. 예를 들어, "X가 발생하면 Y는 실행됩니다. "고유 한 투명성으로 인해 이러한 스마트 계약을 감사하고 확인할 수 있습니다.
반면에 Defai는 AI 에이전트가 본질적으로 확률 론적이기 때문에 전통적인 스마트 계약 구조의 피벗. 이 AI 에이전트는 진화하는 데이터 세트, 사전 입력 및 컨텍스트를 기반으로 결정을 내립니다. 사전 결정된 사건에 반응하는 대신 신호를 해석하고 적응할 수 있습니다. 일부는이 과정이 정교한 혁신을 제공한다고 주장하는 것이 옳을 수도 있지만, 고유 한 불확실성을 통해 오류와 악용에 대한 번식 근거를 만듭니다.
지금까지, AI- 발전 제도 봇의 분산 프로토콜의 초기 반복은 Defai 로의 전환을 알렸다. 예를 들어, 사용자 또는 분산 된 자율 조직 (DAO)은 특정 시장 패턴을 스캔하고 몇 초 만에 거래를 실행하기 위해 봇을 구현할 수 있습니다. 이 소리가 들릴 수 있듯이 대부분의 봇은 Web2 인프라에서 작동하여 Web3에 중앙 집중식 고장 지점의 취약성을 가져옵니다.
이러한 변화가 준비되지 않은 새로운 공격 표면을 만들 수있을 때 업계는 AI를 분산 프로토콜에 통합하는 흥분에 빠지지 않아야합니다. 나쁜 행위자는 모델 조작, 데이터 중독 또는 적대적 입력 공격을 통해 AI 에이전트를 악용 할 수 있습니다.
이는 DEXS 간의 차익 거래 기회를 식별하도록 훈련 된 AI 에이전트에 의해 예시된다.
관련: 탈 중앙화 과학 AI를 만나기 - 레거시 기관은 준비되지 않았습니다.
위협 행위자는 입력 데이터를 변조하여 에이전트가 수익성이없는 거래를 실행하거나 유동성 풀에서 자금을 배수 할 수 있습니다. 더욱이, 타협 된 에이전트는 전체 프로토콜을 잘못된 정보를 믿는 데 오도하거나 더 큰 공격의 출발점이 될 수 있습니다.
이러한 위험은 대부분의 AI 에이전트가 현재 블랙 박스라는 사실에 의해 악화됩니다. 개발자의 경우에도 AI 에이전트의 의사 결정 능력은 투명하지 않을 수 있습니다.
이러한 기능은 투명성과 검증 가능성을 기반으로 한 Web3의 정신과 반대입니다.
이러한 위험을 염두에두고, Defai의 의미에 대한 우려가 표현 될 수 있으며, 잠재적 으로이 개발에 대한 잠시 멈추기도 할 수도 있습니다. 그러나 Defai는 계속 발전하고 더 큰 수준의 채택을 볼 수 있습니다. 필요한 것은 그에 따라 보안에 대한 업계의 접근 방식을 조정하는 것입니다. Defai와 관련된 생태계는 개발자, 사용자 및 타사 감사인이 보안을 유지하고 위험을 완화하는 최상의 수단을 결정하는 표준 보안 모델이 필요할 것입니다.
AI 요원은 회의론과 조사와 함께 다른 Onchain 인프라와 같이 취급되어야합니다. 이를 위해서는 코드 논리를 엄격하게 감사하고 최악의 시나리오를 시뮬레이션하고 레드 팀 연습을 사용하여 악의적 인 행위자가 악용하기 전에 공격 벡터를 노출시킵니다. 또한 업계는 오픈 소스 모델 또는 문서와 같은 투명성에 대한 표준을 개발해야합니다.
업계가 이러한 변화를 어떻게 보는지에 관계없이 Dafai는 분산 시스템의 신뢰와 관련하여 새로운 질문을 소개합니다. AI 에이전트가 자율적으로 자산을 보유하고, 현명한 계약과 상호 작용하고, 거버넌스 제안에 투표 할 수있을 때, 신뢰는 더 이상 논리를 확인하는 것이 아닙니다. 의도를 확인하는 것입니다. 이를 통해 사용자가 에이전트의 목표가 단기 및 장기 목표와 일치하도록하는 방법을 탐색해야합니다.
앞으로의 길은 학제 간 솔루션 중 하나 여야합니다. 제로 지식 증명과 같은 암호화 기술은 AI 행동의 무결성을 확인하는 데 도움이 될 수 있으며 Onchain 증명 프레임 워크는 의사 결정의 기원을 추적하는 데 도움이 될 수 있습니다. 마지막으로, AI 요소가있는 감사 도구는 개발자가 현재 스마트 계약 코드를 검토하는 것처럼 에이전트를 포괄적으로 평가할 수 있습니다.
그러나 현실은 업계가 아직 없다는 사실에 남아 있습니다. 현재 엄격한 감사, 투명성 및 스트레스 테스트가 최선의 방어로 남아 있습니다. Defai 프로토콜에 참여하는 사용자는 프로토콜이 이러한 원칙을 AI 논리로 수용하는지 확인해야합니다.
Defai는 본질적으로 안전하지 않지만 대부분의 현재 Web3 인프라와 다릅니다. 채택 속도는 현재 업계가 현재의 보안 프레임 워크를 능가하는 위험이 있습니다. 암호화 산업이 계속 배우면서 (종종 어려운 방법) 보안이없는 혁신은 재난을위한 레시피입니다.
AI 에이전트가 곧 사용자를 대신하여 자산을 보유하고 자산을 보유하고 프로토콜을 보유 할 수 있다는 점을 감안할 때 업계는 모든 AI 논리 라인이 여전히 코드라는 사실에 직면해야하며 모든 코드 라인을 악용 할 수 있습니다.
안전을 손상시키지 않고 Defai의 채택이 이루어 지려면 보안 및 투명성으로 설계해야합니다. 탈 중앙화가 예방하기위한 바로 그 결과를 초대하는 것은 덜 초대합니다.
의견: Jason Jiang, Certik의 최고 비즈니스 책임자.
이 기사는 일반적인 정보 목적을위한 것이며 법적 또는 투자 조언으로 간주되어서는 안됩니다. 여기에 표현 된 견해, 생각 및 의견은 저자의 단독이며 반드시 Cointelegraph의 견해와 의견을 반영하거나 대표하지는 않습니다.
원문 제목: The intersection of DeFi and AI calls for transparent security
AI-powered DeFi creates new security risks.
This calls for transparent, rigorous auditing to protect decentralized systems.
Opinion by: Jason Jiang, chief business officer of CertiK.
Since its inception, the decentralized finance (DeFi) ecosystem has been defined by innovation, from decentralized exchanges (DEXs) to lending and borrowing protocols, stablecoins and more.
The latest innovation is DeFAI, or DeFi powered by artificial intelligence.
Within DeFAI, autonomous bots trained on large data sets can significantly improve efficiency by executing trades, managing risk and participating in governance protocols.
As is the case with all blockchain-based innovations, however, DeFAI may also introduce new attack vectors that the crypto community must address to improve user safety.
This necessitates an intricate look into the vulnerabilities that come with innovation so as to ensure security.
Within blockchain, mostsmart contractshave traditionally operated on simple logic.
For example, “If X happens, then Y will execute.
” Due to their inherent transparency, such smart contracts can be audited and verified.
DeFAI, on the other hand, pivots from the traditional smart contract structure, as its AI agents are inherently probabilistic.
These AI agents make decisions based on evolving data sets, prior inputs and context.
They can interpret signals and adapt instead of reacting to a predetermined event.
While some might be right to argue that this process delivers sophisticated innovation, it also creates a breeding ground for errors and exploits through its inherent uncertainty.
Thus far, early iterations of AI-poweredtrading botsin decentralized protocols have signalled the shift to DeFAI.
For instance, users or decentralized autonomous organizations (DAOs) could implement a bot to scan for specific market patterns and execute trades in seconds.
As innovative as this may sound, most bots operate on a Web2 infrastructure, bringing to Web3 the vulnerability of a centralized point of failure.
The industry should not get caught up in the excitement of incorporating AI into decentralized protocols when this shift can create new attack surfaces that it’s not prepared for.
Bad actors could exploit AI agents through model manipulation, data poisoning or adversarial input attacks.
This is exemplified by an AI agent trained to identify arbitrage opportunities between DEXs.
Related:Decentralized science meets AI — legacy institutions aren’t ready.
Threat actors could tamper with its input data, making the agent execute unprofitable trades or even drain funds from a liquidity pool.
Moreover, a compromised agent could mislead an entire protocol into believing false information or serve as a starting point for larger attacks.
These risks are compounded by the fact that most AI agents are currently black boxes.
Even for developers, the decision-making abilities of the AI agents they create may not be transparent.
These features are the opposite of Web3’s ethos, which was built on transparency and verifiability.
With these risks in mind, concerns may be voiced about the implications of DeFAI, potentially even calling for a pause on this development altogether.
DeFAI is, however, likely to continue to evolve and see greater levels of adoption.
What is needed then is to adapt the industry’s approach to security accordingly.
Ecosystems involving DeFAI will likely require a standard security model, where developers, users and third-party auditors determine the best means of maintaining security and mitigating risks.
AI agents must be treated like any other piece of onchain infrastructure: with skepticism and scrutiny.
This entails rigorously auditing their code logic, simulating worst-case scenarios and even using red-team exercises to expose attack vectors before malicious actors can exploit them.
Moreover, the industry must develop standards for transparency, such as open-source models or documentation.
Regardless of how the industry views this shift, DaFAI introduces new questions when it comes to the trust of decentralized systems.
When AI agents can autonomously hold assets, interact with smart contracts and vote on governance proposals, trust is no longer just about verifying logic; it’s about verifying intent.
This calls for exploring how users can ensure that an agent’s objectives align with short-term and long-term goals.
The path forward should be one of cross-disciplinary solutions.
Cryptographic techniques like zero-knowledge proofs could help verify the integrity of AI actions, and onchain attestation frameworks could help trace the origins of decisions.
Finally, audit tools with elements of AI could evaluate agents as comprehensively as developers currently review smart contract code.
The reality remains, however, that the industry is not yet there.
For now, rigorous auditing, transparency and stress testing remain the best defense.
Users considering participating in DeFAI protocols should verify that the protocols embrace these principles in the AI logic that drives them.
DeFAI is not inherently unsafe but differs from most of the current Web3 infrastructure.
The speed of its adoption risks outpacing the security frameworks the industry currently relies on.
As the crypto industry continues to learn — often the hard way — innovation without security is a recipe for disaster.
Given that AI agents will soon be able to act on users’ behalf, hold their assets and shape protocols, the industry must confront the fact that every line of AI logic is still code, and every line of code can be exploited.
If the adoption of DeFAI is to take place without compromising safety, it must be designed with security and transparency.
Anything less invites the very outcomes decentralization was meant to prevent.
Opinion by: Jason Jiang, chief business officer of CertiK.
This article is for general information purposes and is not intended to be and should not be taken as legal or investment advice.
The views, thoughts, and opinions expressed here are the author’s alone and do not necessarily reflect or represent the views and opinions of Cointelegraph.
