ジンベエザメの平均的な大きさは5.5〜12mほど。大きいものでは20m級の個体も確認されている世界最大の魚です。2番目に大きい魚はウバザメで、最大全長は10～12mほど。3位は諸説ありますが、最大全長6m前後になるイタチザメ、ホホジロザメ、メガマウスザメなどがあげられます。大型のサメの中でも、ジンベエザメは群を抜いて大きいことがわかります。体重は20トンほどと推測されていて、ゾウ3頭分の重さに相当します。

ジンベエザメは背中が青みがかった灰色～茶色で、お腹は白です。背中には独特の白い斑点と縞模様があります。この模様が甚兵衛羽織（じんべえばおり）の柄に似ていることから、ジンベエザメと呼ばれるようになりました。甚兵衛羽織は、下級武士が着ていた木綿わた入りの袖なしの羽織。これに簡易な袖がつき、ラフな和服の甚平へ変化していったといわれています。ジンベイザメと呼ばれることもありますが、標準和名はジンベエザメです。
ちなみに英名はwhale shark。クジラザメという意味で、大きさも生態もクジラに似ていることが表されています。フランス語、ドイツ語などでもクジラザメを意味する言葉で呼ばれています。鹿児島などの方言でも同様にクジラブカと呼ばれます。