Hexdump 如何工作

2019-08-31 11:17:00

Hexdump 能幫助你檢視二進位制檔案的內容。讓我們來學習 Hexdump 如何工作。

Hexdump 是個用十六進位制、十進位制、八進位制數或 ASCII 碼顯示二進位制檔案內容的工具。它是個用於檢查的工具,也可用於資料恢復、逆向工程和程式設計。

學習基本用法

Hexdump 讓你毫不費力地得到輸出結果,依你所檢視檔案的尺寸,輸出結果可能會非常多。本文中我們會建立一個 1x1 畫素的 PNG 檔案。你可以用影象處理應用如 GIMPMtpaint 來建立該檔案,或者也可以在終端內用 ImageMagick 建立。

用 ImagiMagick 生成 1x1 畫素 PNG 檔案的命令如下:

$ convert -size 1x1 canvas:black pixel.png

你可以用 file 命令確認此檔案是 PNG 格式:

$ file pixel.pngpixel.png: PNG image data, 1 x 1, 1-bit grayscale, non-interlaced

你可能好奇 file 命令是如何判斷檔案是什麼型別。巧的是,那正是 hexdump 將要揭示的原理。眼下你可以用你常用的影象檢視軟體來看看你的單一畫素圖片(它看上去就像這樣:.),或者你可以用 hexdump 檢視檔案內部:

$ hexdump pixel.png0000000 5089 474e 0a0d 0a1a 0000 0d00 4849 52440000010 0000 0100 0000 0100 0001 0000 3700 f96e0000020 0024 0000 6704 4d41 0041 b100 0b8f 61fc0000030 0005 0000 6320 5248 004d 7a00 0026 80000000040 0084 fa00 0000 8000 00e8 7500 0030 ea000000050 0060 3a00 0098 1700 9c70 51ba 003c 00000000060 6202 474b 0044 dd01 138a 00a4 0000 74070000070 4d49 0745 07e3 081a 3539 a487 46b0 00000000080 0a00 4449 5441 d708 6063 0000 0200 01000000090 21e2 33bc 0000 2500 4574 7458 6164 657400000a0 633a 6572 7461 0065 3032 3931 302d 2d3700000b0 3532 3254 3a30 3735 353a 2b33 3231 303a00000c0 ac30 5dcd 00c1 0000 7425 5845 6474 746100000d0 3a65 6f6d 6964 7966 3200 3130 2d39 373000000e0 322d 5435 3032 353a 3a37 3335 312b 3a3200000f0 3030 90dd 7de5 0000 0000 4549 444e 42ae0000100 82600000102

透過一個你以前可能從未用過的視角,你所見的是該範例 PNG 檔案的內容。它和你在影象檢視軟體中看到的是完全一樣的資料,只是用一種你或許不熟悉的方式編碼。

提取熟悉的字串

儘管預設的資料輸出結果看上去毫無意義,那並不意味著其中沒有有價值的資訊。你可以用 --canonical 選項將輸出結果,或至少是其中可翻譯的部分,翻譯成更加熟悉的字元集:

$ hexdump --canonical foo.png 00000000  89 50 4e 47 0d 0a 1a 0a  00 00 00 0d 49 48 44 52  |.PNG........IHDR|00000010  00 00 00 01 00 00 00 01  01 00 00 00 00 37 6e f9  |.............7n.|00000020  24 00 00 00 04 67 41 4d  41 00 00 b1 8f 0b fc 61  |$....gAMA......a|00000030  05 00 00 00 20 63 48 52  4d 00 00 7a 26 00 00 80  |.... cHRM..z&...|00000040  84 00 00 fa 00 00 00 80  e8 00 00 75 30 00 00 ea  |...........u0...|00000050  60 00 00 3a 98 00 00 17  70 9c ba 51 3c 00 00 00  |`..:....p..Q<...|00000060  02 62 4b 47 44 00 01 dd  8a 13 a4 00 00 00 07 74  |.bKGD..........t|00000070  49 4d 45 07 e3 07 1a 08  39 35 87 a4 b0 46 00 00  |IME.....95...F..|00000080  00 0a 49 44 41 54 08 d7  63 60 00 00 00 02 00 01  |..IDAT..c`......|00000090  e2 21 bc 33 00 00 00 25  74 45 58 74 64 61 74 65  |.!.3...%tEXtdate|000000a0  3a 63 72 65 61 74 65 00  32 30 31 39 2d 30 37 2d  |:create.2019-07-|000000b0  32 35 54 32 30 3a 35 37  3a 35 33 2b 31 32 3a 30  |25T20:57:53+12:0|000000c0  30 ac cd 5d c1 00 00 00  25 74 45 58 74 64 61 74  |0..]....%tEXtdat|000000d0  65 3a 6d 6f 64 69 66 79  00 32 30 31 39 2d 30 37  |e:modify.2019-07|000000e0  2d 32 35 54 32 30 3a 35  37 3a 35 33 2b 31 32 3a  |-25T20:57:53+12:|000000f0  30 30 dd 90 e5 7d 00 00  00 00 49 45 4e 44 ae 42  |00...}....IEND.B|00000100  60 82                                             |`.|00000102

在右側的列中,你看到的是和左側一樣的資料,但是以 ASCII 碼展現的。如果你仔細看,你可以從中挑選出一些有用的資訊,如檔案格式(PNG)以及檔案建立、修改日期和時間(向檔案底部尋找一下)。

file 命令通過頭 8 個位元組獲取檔案型別。程式設計師會參考 libpng 規範 來知曉需要檢視什麼。具體而言,那就是你能在該影象檔案的頭 8 個位元組中看到的字串 PNG。這個事實顯而易見,因為它揭示了 file 命令是如何知道要報告的檔案型別。

你也可以控制 hexdump 顯示多少位元組,這在處理大於一個畫素的檔案時很實用:

$ hexdump --length 8 pixel.png0000000 5089 474e 0a0d 0a1a0000008

hexdump 不只限於檢視 PNG 或影象檔案。你也可以用 hexdump 檢視你日常使用的二進位制檔案,如 lsrsync,或你想檢查的任何二進位制檔案。

用 hexdump 實現 cat 命令

閱讀 PNG 規範的時候你可能會注意到頭 8 個位元組中的資料與 hexdump 提供的結果看上去不一樣。實際上,那是一樣的資料,但以一種不同的轉換方式展現出來。所以 hexdump 的輸出是正確的,但取決於你在尋找的資訊,其輸出結果對你而言不總是直接了當的。出於這個原因,hexdump 有一些選項可供用於定義格式和轉化其轉儲的原始資料。

轉換選項可以很複雜,所以用無關緊要的東西練習會比較實用。下面這個簡易的介紹,通過重新實現 cat 命令來演示如何格式化 hexdump 的輸出。首先,對一個文字檔案執行 hexdump 來檢視其原始資料。通常你可以在硬碟上某處找到 GNU 通用許可證GNU General Public License(GPL)的一份拷貝,也可以用你手頭的任何文字檔案。你的輸出結果可能不同,但下面是如何在你的系統中找到一份 GPL(或至少其部分)的拷貝:

$ find /usr/share/doc/ -type f -name "COPYING" | tail -1/usr/share/doc/libblkid-devel/COPYING

對其執行 hexdump

$ hexdump /usr/share/doc/libblkid-devel/COPYING0000000 6854 7369 6c20 6269 6172 7972 6920 20730000010 7266 6565 7320 666f 7774 7261 3b65 79200000020 756f 6320 6e61 7220 6465 7369 7274 62690000030 7475 2065 7469 6120 646e 6f2f 0a72 6f6d0000040 6964 7966 6920 2074 6e75 6564 2072 68740000050 2065 6574 6d72 2073 666f 7420 6568 47200000060 554e 4c20 7365 6573 2072 6547 656e 61720000070 206c 7550 6c62 6369 4c0a 6369 6e65 65730000080 6120 2073 7570 6c62 7369 6568 2064 7962[...]

如果該檔案輸出結果很長,用 --length(或短選項 -n)來控制輸出長度使其易於管理。

原始資料對你而言可能沒什麼意義,但你已經知道如何將其轉換為 ASCII 碼:

hexdump --canonical /usr/share/doc/libblkid-devel/COPYING00000000  54 68 69 73 20 6c 69 62  72 61 72 79 20 69 73 20  |This library is |00000010  66 72 65 65 20 73 6f 66  74 77 61 72 65 3b 20 79  |free software; y|00000020  6f 75 20 63 61 6e 20 72  65 64 69 73 74 72 69 62  |ou can redistrib|00000030  75 74 65 20 69 74 20 61  6e 64 2f 6f 72 0a 6d 6f  |ute it and/or.mo|00000040  64 69 66 79 20 69 74 20  75 6e 64 65 72 20 74 68  |dify it under th|00000050  65 20 74 65 72 6d 73 20  6f 66 20 74 68 65 20 47  |e terms of the G|00000060  4e 55 20 4c 65 73 73 65  72 20 47 65 6e 65 72 61  |NU Lesser Genera|00000070  6c 20 50 75 62 6c 69 63  0a 4c 69 63 65 6e 73 65  |l Public.License|[...]

這個輸出結果有幫助但太累贅且難於閱讀。要將 hexdump 的輸出結果轉換為其選項不支援的其他格式,可組合使用 --format(或 -e)和專門的格式程式碼。用來自定義格式的程式碼和 printf 命令使用的類似,所以如果你熟悉 printf 語句,你可能會覺得 hexdump 自定義格式不難學會。

hexdump 中,字串 %_p 告訴 hexdump 用你系統的預設字元集輸出字元。--format 選項的所有格式符號必須以單引號包括起來:

$ hexdump -e'"%_p"' /usr/share/doc/libblkid-devel/COPYINGThis library is fre* software; you can redistribute it and/or.modify it under the terms of the GNU Les*er General Public.License as published by the Fre* Software Foundation; either.version 2.1 of the License, or (at your option) any later.version..*The complete text of the license is available in the..*/Documentation/licenses/COPYING.LGPL-2.1-or-later file..

這次的輸出好些了,但依然不方便閱讀。傳統上 UNIX 文字檔案假定 80 個字元的輸出寬度(因為很久以前顯示器一行只能顯示 80 個字元)。

儘管這個輸出結果未被自定義格式限制輸出寬度,你可以用附加選項強制 hexdump 一次處理 80 位元組。具體而言,通過 80 除以 1 這種形式,你可以告訴 hexdump 將 80 位元組作為一個單元對待:

$ hexdump -e'80/1 "%_p"' /usr/share/doc/libblkid-devel/COPYINGThis library is free software; you can redistribute it and/or.modify it under the terms of the GNU Lesser General Public.License as published by the Free Software Foundation; either.version 2.1 of the License, or (at your option) any later.version...The complete text of the license is available in the.../Documentation/licenses/COPYING.LGPL-2.1-or-later file..

現在該檔案被分割成 80 位元組的塊處理,但沒有任何換行。你可以用 \n 字元自行新增換行,在 UNIX 中它代表換行:

$ hexdump -e'80/1 "%_p""\n"'This library is free software; you can redistribute it and/or.modify it under the terms of the GNU Lesser General Public.License as published by the Free Software Foundation; either.version 2.1 of the License, or (at your option) any later.version...The complete text of the license is available in the.../Documentation/licenses/COPYING.LGPL-2.1-or-later file..

現在你已經(大致上)用 hexdump 自定義格式實現了 cat 命令。

控制輸出結果

實際上自定義格式是讓 hexdump 變得有用的方法。現在你已經(至少是原則上)熟悉 hexdump 自定義格式,你可以讓 hexdump -n 8 的輸出結果跟 libpng 官方規範中描述的 PNG 檔案頭相匹配了。

首先,你知道你希望 hexdump 以 8 位元組的塊來處理 PNG 檔案。此外,你可能通過識別這些整數從而知道 PNG 格式規範是以十進位制數表述的,根據 hexdump 文件,十進位制用 %d 來表示:

$ hexdump -n8 -e'8/1 "%d""\n"' pixel.png13780787113102610

你可以在每個整數後面加個空格使輸出結果變得完美:

$ hexdump -n8 -e'8/1 "%d ""\n"' pixel.png137 80 78 71 13 10 26 10

現在輸出結果跟 PNG 規範完美匹配了。

好玩又有用

Hexdump 是個迷人的工具,不僅讓你更多地領會計算機如何處理和轉換資訊,而且讓你了解檔案格式和編譯的二進位制檔案如何工作。日常工作時你可以隨機地試著對不同檔案執行 hexdump。你永遠不知道你會發現什麼樣的資訊,或是什麼時候具有這種洞察力會很實用。