다크 웹 크롤링이 범죄 억제에 도움이 되는 방법
게시 됨: 2016-12-10인터넷에 완전히 액세스할 수 있다고 생각할 수도 있지만 실제로 액세스할 수 있는 범위는 웹이라는 빙산의 일각에 국한되어 있습니다. Google과 같은 검색 엔진은 표면 웹에만 액세스할 수 있습니다. 전체 웹의 03% . 나머지는 다크웹, 일명 딥웹이라 불리는 신비한 곳입니다. 아무도 그것이 얼마나 큰지 정확히 알지 못하지만 표면 웹보다 약 500~6000배 더 큰 것으로 추정됩니다. 딥 웹을 살펴보고 싶으십니까? 일반 브라우저로는 할 수 없습니다. 딥 웹에 들어가려면 특별한 브라우저가 필요하며 거기에서 완전히 익명입니다.
이 비밀 세계는 사이버 범죄와 현실 세계 범죄의 온상으로도 악명이 높습니다. 주된 이유는 분명히 그것이 제공하는 익명 성입니다. 마약 거래, 위조 통화 거래, 무기 및 탄약 거래, 위조 및 암살자 서비스와 같은 불법 활동이 이 익명성의 그림자 뒤에 숨어 있습니다.
작동 방식
Dark is web은 기본적으로 검색 엔진이 가지 않는 웹의 가장 그늘진 구석입니다. 사람들은 정부 당국의 감시 없이 그곳에서 상호 작용합니다. 이러한 사이트는 일반적으로 사용자가 익명으로 사이트를 방문할 수 있도록 하는 Tor와 같은 메커니즘으로 암호화됩니다. 같은 이유로 범죄자들이 어떤 식으로든 추적되지 않고 불법 행위를 수행하는 데 사용하고 있습니다.
Tor는 양파처럼 작동하므로 Tor 브라우저의 양파 로고입니다. 즉, 특정 웹사이트에 액세스한 IP 주소 뒤에 가면 더 많은 IP 주소 계층을 찾을 수 있습니다. 양파 껍질을 계속 벗기면 아무것도 찾을 수 없는 것처럼 사용자의 실제 IP 주소는 추적할 수 없습니다. 많은 웹사이트, 특히 불법적인 웹사이트는 Tor 브라우저를 통해서만 액세스할 수 있습니다. 다크 웹에서의 거래는 비트코인을 통해 이루어지므로 일반 신용카드 거래처럼 추적이 거의 불가능합니다.
다크 웹의 범죄 유형
다크웹을 이용하여 다양한 범죄가 이루어지고 있습니다. 여기 몇 가지 예가 있어요.
사이버 사기
다크 웹은 신용 카드 데이터 및 개인 정보를 훔치는 방법과 프로세스의 온상입니다. 범죄자들은 먼저 가맹점 사이트나 결제 게이트웨이에 침입하여 카드 데이터를 훔친 다음 카드 포럼과 마켓 사이트를 운영하는 다른 사기꾼에게 판매합니다. 이 프로세스를 통해 일련의 카드 세부 정보가 최종적으로 현금으로 세탁됩니다. 새로운 컴퓨터 익스플로잇의 판매는 또한 다크 웹에서 가장 큰 위협 중 하나입니다. 익스플로잇이 더 많은 해커에게 판매되면 공격 규모가 커집니다.
현실 세계의 범죄
많은 실제 범죄가 이제 오랫동안 다크 웹과 관련되었습니다. 실크로드는 FBI에 의해 폐쇄된 2013년까지 불법 마약 판매를 호스팅한 최초의 다크넷 중 하나였습니다. 그 후 실크로드를 대체하기 위해 많은 다크넷이 생겨났습니다. 이름을 지을 수 있는 모든 불법 약물은 딥 웹의 일부 다크넷에서 구입할 수 있습니다. 마약 마피아는 택배 시스템을 사용하여 이러한 마약을 은밀하게 고객에게 운송하므로 통제하기가 어렵습니다.
무기 판매는 딥 웹에서 증가 및 감소했습니다. 예를 들어, 영국에서는 사이버 범죄자들이 무기 밀매를 고위험 사업으로 보게 만든 세간의 이목을 끄는 많은 체포가 있었습니다. 다크 웹의 많은 사이트는 여전히 로켓 발사기, 탱크, 총기 및 기타 매우 위험한 폭발물을 판매합니다. 이 외에도 암살자를 고용할 수 있고, 인간의 장기가 인신매매되고, 심지어 일부 딥 웹 사이트에서 테러 공격이 계획되고 있습니다.

다크 웹 범죄를 억제하기 위한 웹 크롤링
웹 크롤링 기술은 경쟁력 있는 인텔리전스를 제공하고 광범위한 웹 연구를 촉진하는 놀라운 능력으로 인해 비즈니스 사용자 사이에서 인기가 높아지고 있습니다. 우리는 크롤링 기술이 웹을 통해 증가하는 범죄의 위협을 억제하기 위해 딥 웹의 다크넷에 적용될 수 있다고 믿습니다. 크롤링이 도움이 될 수 있는 몇 가지 방법은 다음과 같습니다.
잠재적 불법 콘텐츠 감지
모든 딥 웹 또는 .onion 사이트가 범죄나 본질적으로 불법적인 것은 아닙니다. 딥 웹의 거대한 크기를 감안할 때 당국이 수동으로 각 사이트를 방문하여 잠재적으로 불법적인 특성이 있는지 콘텐츠를 평가하는 것은 불가능합니다. 여기에서 크롤링이 시작됩니다. 웹 크롤링은 이러한 수백만 개의 사이트를 짧은 시간 안에 크롤링하고 색인을 생성하는 데 사용할 수 있으며 특정 키워드가 감지될 때 보고하도록 프로그래밍할 수도 있습니다. 이러한 키워드는 예를 들어 총기 이름, 마약 이름과 같이 주의해야 할 모든 것이 될 수 있습니다. 딥 웹에서의 불법 활동과 관련된 단어 집합입니다. 이를 통해 다크넷에서 물건을 더 쉽게 찾을 수 있으며 이제 남은 일은 이러한 불법 활동 배후의 범죄자를 추적하는 것입니다. 우선, 다크 웹에서 모든 것이 익명이라는 점을 감안할 때 이것은 상당히 어려운 작업입니다. 하지만 불가능한 것은 아닙니다. 이것이 FBI가 다크 웹의 최초 범죄 시장 중 하나인 실크로드의 창시자 로스 울브리히트를 잡은 방법입니다.
비트코인 추적
[spacer height=”10px”]모든 과대 광고를 제외하고 Bitcoin은 보이는 것처럼 익명이 아닙니다. 기본적으로 전자 화폐이며 모든 디지털 제품과 마찬가지로 흔적을 남깁니다. 비트코인은 보유자의 개인 정보와 연결되지 않지만 모든 비트코인 거래는 지갑 ID와 함께 공개 로그에 기록됩니다. 즉, 비트코인은 매우 조심해야 안전합니다. 한 번의 잘못된 움직임과 사용자는 필요한 모든 증거와 함께 예약될 수 있습니다. 기계 학습을 사용하여 개별 거래 간의 점을 연결함으로써 가까운 장래에 비트코인 보유자를 식별하는 더 나은 추적 메커니즘을 기대할 수도 있습니다. 웹 크롤링 기술을 사용하면 비트코인 로그에서 연결로 이어질 수 있는 신호를 지속적으로 모니터링할 수 있습니다.
제로 데이 공격 식별
다크 웹은 컴퓨터 시스템의 모든 새로운 취약점이 익스플로잇 및 맬웨어의 형태로 먼저 공개되는 곳입니다. 2015년 2월 Microsoft는 Windows 운영 체제에서 심각한 취약점을 확인했습니다. 즉시 수정 사항을 발표했지만 취약점의 세부 사항은 들불처럼 다크 웹을 통해 퍼졌습니다. 해커는 이러한 취약점을 적극적으로 찾아 악용으로 전환하여 다크 웹에서 판매합니다.
이것이 Arizona State University의 Eric Nunes와 친구들이 보안 취약점을 조기에 탐지하기 위해 다크 웹의 해킹 포럼을 크롤링할 수 있는 웹 크롤링 및 기계 학습 기술의 하이브리드를 고안한 이유입니다. 이는 대규모 사이버 공격을 방지하기 위해 초기에 문제를 해결하는 데 효과적으로 도움이 될 수 있습니다.
현실 세계 범죄 예방
실제 범죄는 다크 웹에서 계획, 할당 및 지불됩니다. 여기에는 사람들이 공격에 참여하도록 인센티브를 제공받고 직접 모집되는 테러리스트 포럼과 다크넷이 포함됩니다. 사실, 이것은 다크 웹에서 익명의 커뮤니케이션이 일어나기 때문에 달성하기 어려운 작업입니다. 그러나 테러 공격과 같은 것은 데이터를 마이닝하고 해당 성격에 대한 토론이 일어나는 포럼에서 예측 모델링 기술을 사용하여 예측할 수 있습니다. 웹 크롤링을 사용하여 다크넷 사이트를 모니터링함으로써 이러한 공격에 대한 힌트를 얻고 예방 조치를 취할 수 있습니다.
기술은 좋지도 나쁘지도 않습니다. 기술을 어느 방향으로든 작동하게 만드는 것은 사용자입니다. 불법 활동에 주로 사용되지만 그 배후에서 작동하는 기술은 본질적으로 좋거나 나쁘지 않습니다. 기술을 이용한 범죄가 증가함에 따라 이를 근절할 수 있는 수단은 기술밖에 없습니다. 머신 러닝 기술이 나날이 발전하고 있기 때문에 웹 데이터 마이닝과 머신 러닝을 결합하여 다크 웹 범죄의 위협을 억제할 수 있을 것으로 곧 기대할 수 있습니다.
