FBI は、ハッキングに対するオープンソース AI の爆発的な影響を明らかにしました。彼らの衝撃的な視点をご覧ください！

FBI によると、オープンソースの人工知能がハッキングに与える影響

ハッカーは、違法行為をより効率的かつ危険なものにするために、人工知能 (AI) という新しい味方を見つけました。 FBI によると、サイバー犯罪者はツールを改良し、インターネット ユーザーを騙すためにオープンソース AI モデルをますます悪用しています。

サイバー犯罪者による AI の使用

サイバー犯罪者は、ChatGPT、Google Bard、Claude などの言語モデルに基づいたチャットボットを使用すると、悪意のある活動が促進される可能性があることを発見しました。正確なリクエストを悪用することで、彼らは AI をだまして、これらのツールの作成者が導入したセキュリティ対策や制限を回避させることができます。この AI の操作は、この分野における彼らの専門知識のおかげで可能になりました。

FBI は、犯罪コミュニティによる音声パターンの広範な使用について警鐘を鳴らしています。しかし、GPTのようなインターネットユーザーに最も人気のあるAIモデルはハッカーのお気に入りではないと同氏は指摘した。

オープンソース モデル、ハッカーが好むツール

ハッカーは、企業が管理する AI モデルではなく、無料でカスタマイズ可能なオープンソース AI モデルを使用することを好みます。これらのオープンソース モデルは、インターネット上の誰もがアクセスできるため、違法なコンテンツを生成するために簡単に使用できます。さらに、これらのモデルは、Google や OpenAI などの業界大手が開発した大規模モデルよりも軽量で、必要な計算能力も少なくなります。したがって、コンピュータ上またはスマートフォン上でもローカルで使用できるため、開発者やサイバー犯罪者にとっては大きな利点となります。

犯罪者が他のハッカーによって開発されたカスタム AI モデルを使用していることにも注目してください。ダークウェブでは、マルウェアなどの違法なコンテンツを生成するためにハッカーによって設計されたチャットボットが多数利用可能です。最近、犯罪行為専用の 2 つのチャットボット、WormGPT と FraudGPT がブラック マーケットに登場しました。これらのチャットボットは、説得力のあるフィッシングメールを作成し、ランサムウェアなどのウイルスをエンコードし、攻撃を調整するように設計されています。 FraudGPT は、クレジット カードを偽造するソフトウェアを生成することもできます。これらのチャットボットはダークウェブで高額で販売されています。

サイバー犯罪者による AI のさまざまな用途

ハッカーはさまざまな方法で AI を使用して違法な活動を実行します。特に、AI を使用して、銀行サイトなどの公式プラットフォームのインターフェイスを模倣したフィッシング ページをデザインします。さらに、生成 AI の機能を利用して、実行のたびにコードを変更できるポリモーフィック ウイルスを作成するため、従来のウイルス対策では検出がより複雑になります。

最後に、詐欺師はディープフェイク技術を利用して被害者から金銭を強要します。彼らは、標的を危険な状況に陥らせる偽の画像やビデオを生成します。その後、このコンテンツをソーシャル ネットワークやポルノ サイトに投稿することで被害者を嫌がらせます。さらに、ハッカーは音声クローン AI を躊躇なく使用して、電話で被害者を操作します。愛する人の声を真似ることで、彼らはターゲットを説得して彼らを信頼させ、お金を渡すことに成功します。

AIとハッキングの未来

犯罪者が今後も AI の進歩を利用して違法行為を強化する可能性は非常に高いです。 FBI は、AI テクノロジーがより広く利用可能になるにつれて、AI の犯罪利用が増加すると予測しています。したがって、FBI は人工知能を国家の優先事項と考えています。

ハッカーによる AI の悪意のある使用に対抗するには、予防および保護戦略を開発することが不可欠です。この取り組みは、オープンソース AI モデルのセキュリティを確保し、改ざんを防ぐためのより堅牢なセキュリティ対策を実装することに重点を置く必要があります。 AI は多くの分野で社会に利益をもたらす可能性を秘めていますが、その責任ある倫理的な使用を確保することが不可欠です。

出典: PCMag