A D.Gray-man egy képzeletbeli 19. század végi világban játszódik, főhőse a 15 éves Allen Walker, akinek bal karja képes hatalmas karommá átalakulni és elpusztítani a démonokat (悪魔; akuma?), azokat a fejlődésre képes lényeket, amiket az Ezeréves Gróf (伯爵; Hakuszaku, angol nyelvterületen Millenium Earl?) hozott létre, hogy elpusztíthassa az emberiséget. Mestere, Cross Marian tábornok utasítására Allen csatlakozik a Fekete Rendhez, mint ördögűző. Az ördögűzők felelősek a démonok elpusztításáért. Az Ártatlanság néhány szilánkja A Rendnél Allen megtanulja, hogy hogyan használhatja bal szemét a démonok érzékelésére. Azt a feladatot kapja, hogy segítse összegyűjteni az Ártatlanság (イノセンス; Inoszenszu; Hepburn-átírással: Inosensu?; Innocence), egy természetfeletti erővel rendelkező anyag 109 szétszóródott darabját, amik erőt adnak az ördögűzőknek a démonok elpusztításához. A Gróf összehívja a Noékat, akik a bibliai Noé szuperképességekkel rendelkező leszármazottjai, és képesek elpusztítani az Ártatlanságot. Mindkét oldal elkezdi a keresést a Nagy Szív (ハート; Háto; Hepburn-átírással: Hāto?; Heart) után, ami az Ártatlanság legerősebb darabja, és amelyik fél hamarabb megtalálja, azé a győzelem. A keresés alatt a Gróf elkezdi a tábornokok megölését, akik a legerősebb ördögűzők. A tábornokok megvédése érdekében a Rend a főhadiszállásra hívja őket, Allent pedig három társával az eltűnt Cross Marian felkutatására küldi. A történet során Allen és Lenalee Lee többször majdnem meghaltak, de az Ártatlanságuk megmentette őket, amitől a Gróf, a Krónikás és annak tanítványa, Lavi úgy vélik, hogy Allen vagy Lenalee ártatlansága a Nagy Szív. Ezalatt a Rend és Allen is rájön, hogy a 14. Noé, aki elárulta a Grófot, majd az megölte őt, emlékeit Allenbe ültette. Ezért a Rend úgy gondolja, hogy Allen el fogja őket árulni, a Gróf pedig a saját oldalára akarja állítani a fiút.