a.out 格式在不同的機器平臺和不同的 UNIX 操作系統上有輕微的不同，例如在 MC680x0 平臺上有 6 個 section。下面我們討論的是最"標準"的格式。

a.out 文件包含 7 個 section，格式如下：exec header（執行頭部，也可理解為文件頭部）
text segment（文本段）
data segment(數據段)
text relocations(文本重定位段)
data relocations（數據重定位段）
symbol table（符號表）
string table（字符串表）

執行頭部的數據結構：struct exec {
                      unsigned long     a_midmag;      /* 魔數和其它信息 */
                      unsigned long     a_text;        /* 文本段的長度 */
                      unsigned long     a_data;        /* 數據段的長度 */
                      unsigned long     a_bss;         /* BSS段的長度 */
                      unsigned long     a_syms;        /* 符號表的長度 */
                      unsigned long     a_entry;       /* 程序進入點 */
                      unsigned long     a_trsize;      /* 文本重定位表的長度 */
                      unsigned long     a_drsize;      /* 數據重定位表的長度 */
            };

文件頭部主要描述了各個 section 的長度，比較重要的字段是 a_entry（程序進入點），代表了系統在加載程序并初試化各種環境后開始執行程序代碼的入口。這個字段在后面討論的 ELF 文件頭部中也有出現。由 a.out 格式和頭部數據結構我們可以看出，a.out 的格式非常緊湊，只包含了程序運行所必須的信息（文本、數據、BSS），而且每個 section 的順序是固定的。這種結構缺乏擴展性，如不能包含"現代"可執行文件中常見的調試信息，最初的 UNIX 黑客對 a.out 文件調試使用的工具是 adb，而 adb 是一種機器語言調試器！

a.out 文件中包含符號表和兩個重定位表，這三個表的內容在連接目標文件以生成可執行文件時起作用。在最終可執行的 a.out 文件中，這三個表的長度都為 0。a.out 文件在連接時就把所有外部定義包含在可執行程序中，如果從程序設計的角度來看，這是一種硬編碼方式，或者可稱為模塊之間是強藕和的。在后面的討論中，我們將會具體看到ELF格式和動態連接機制是如何對此進行改進的。

a.out 是早期UNIX系統使用的可執行文件格式，由 AT&T 設計，現在基本上已被 ELF 文件格式代替。a.out 的設計比較簡單，但其設計思想明顯的被后續的可執行文件格式所繼承和發揚。可以參閱 參考資料 16 和閱讀 參考資料 15 源代碼加深對 a.out 格式的理解。 參考資料 12 討論了如何在"現代"的紅帽LINUX運行 a.out 格式文件。

COFF 文件格式分析

COFF 格式比 a.out 格式要復雜一些，最重要的是包含一個節段表(section table)，因此除了 .text，.data，和 .bss 區段以外，還可以包含其它的區段。另外也多了一個可選的頭部，不同的操作系統可一對此頭部做特定的定義。

COFF 文件格式如下：File Header(文件頭部)
Optional Header(可選文件頭部)
Section 1 Header(節頭部)
………
Section n Header(節頭部)
Raw Data for Section 1(節數據)
Raw Data for Section n(節數據)
Relocation Info for Sect. 1(節重定位數據)
Relocation Info for Sect. n(節重定位數據)
Line Numbers for Sect. 1(節行號數據)
Line Numbers for Sect. n(節行號數據)
Symbol table(符號表)
String table(字符串表)

文件頭部的數據結構：struct filehdr
                 {
                   unsigned short    f_magic;      /* 魔數 */
                     unsigned short    f_nscns;      /* 節個數 */
                     long              f_timdat;     /* 文件建立時間 */
                     long              f_symptr;     /* 符號表相對文件的偏移量 */
                     long              f_nsyms;      /* 符號表條目個數 */
                     unsigned short    f_opthdr;     /* 可選頭部長度 */
                     unsigned short    f_flags;      /* 標志 */
                 };

COFF 文件頭部中魔數與其它兩種格式的意義不太一樣，它是表示針對的機器類型，例如 0x014c 相對于 I386 平臺，而 0x268 相對于 Motorola 68000系列等。當 COFF 文件為可執行文件時，字段 f_flags 的值為 F_EXEC（0X00002），同時也表示此文件沒有未解析的符號，換句話說，也就是重定位在連接時就已經完成。由此也可以看出，原始的 COFF 格式不支持動態連接。為了解決這個問題以及增加一些新的特性，一些操作系統對 COFF 格式進行了擴展。Microsoft 設計了名為 PE（Portable Executable）的文件格式，主要擴展是在 COFF 文件頭部之上增加了一些專用頭部，具體細節請參閱 參考資料 18，某些 UNIX 系統也對 COFF 格式進行了擴展，如 XCOFF（extended common object file format）格式，支持動態連接，請參閱 參考資料 5。

緊接文件頭部的是可選頭部，COFF 文件格式規范中規定可選頭部的長度可以為 0，但在 LINUX 系統下可選頭部是必須存在的。下面是 LINUX 下可選頭部的數據結構：typedef struct
            {
                  char     magic[2];    /* 魔數 */
                  char     vstamp[2];    /* 版本號 */
                  char     tsize[4];    /* 文本段長度 */
                  char     dsize[4];    /* 已初始化數據段長度 */
                  char     bsize[4];    /* 未初始化數據段長度 */
                  char     entry[4];    /* 程序進入點 */
                  char     text_start[4];         /* 文本段基地址 */
                  char     data_start[4];         /* 數據段基地址 */
            }
            COFF_AOUTHDR;

字段 magic 為 0413 時表示 COFF 文件是可執行的，注意到可選頭部中顯式定義了程序進入點，標準的 COFF 文件沒有明確的定義程序進入點的值，通常是從 .text 節開始執行，但這種設計并不好。

前面我們提到，COFF 格式比 a.out 格式多了一個節段表，一個節頭條目描述一個節數據的細節，因此 COFF 格式能包含更多的節，或者說可以根據實際需要，增加特定的節，具體表現在 COFF 格式本身的定義以及稍早提及的 COFF 格式擴展。我個人認為，節段表的出現可能是 COFF 格式相對 a.out 格式最大的進步。下面我們將簡單描述 COFF 文件中節的數據結構，因為節的意義更多體現在程序的編譯和連接上，所以本文不對其做更多的描述。此外，ELF 格式和 COFF格式對節的定義非常相似，在隨后的 ELF 格式分析中，我們將省略相關討論。struct COFF_scnhdr
            {
                  char s_name[8];       /* 節名稱 */
                  char s_paddr[4];      /* 物理地址 */
                  char s_vaddr[4];      /* 虛擬地址 */
                  char s_size[4];         /* 節長度 */
                  char s_scnptr[4];     /* 節數據相對文件的偏移量 */
                  char s_relptr[4];      /* 節重定位信息偏移量 */
                  char s_lnnoptr[4];    /* 節行信息偏移量 */
                  char s_nreloc[2];     /* 節重定位條目數 */
                  char s_nlnno[2];      /* 節行信息條目數 */
                  char s_flags[4];       /* 段標記 */
            };

有一點需要注意：LINUX系統中頭文件coff.h中對字段s_paddr的注釋是"physical address"，但似乎應該理解為"節被加載到內存中所占用的空間長度"。字段s_flags標記該節的類型，如文本段、數據段、BSS段等。在COFF的節中也出現了行信息，行信息描述了二進制代碼與源代碼的行號之間的對映關系，在調試時很有用。
轉自：
http://www.360doc.com/content/080313/18/59039_1115300.html