M4坦克其主要武器装备75毫米主炮，置于完全横向的炮塔中。其中一个特点，即单轴陀螺稳定器的精度不足以在移动时发射，但确实有助于保持瞄准的目标，以便当坦克停止发射时，瞄准方向大致朝向正确的方向。设计师强调炮可靠性，易于生产和维护，耐用性，零部件和弹药的标准化以及有限的尺寸和重量。这些因素加上M4 75炮的穿透力超越了德国轻型和中型坦克在1939年至1940年的装甲防护能力。所以实际上75炮被认为足够使用。

早期的M4装上一门75毫米中速通用炮。 尽管开始设计T20AT炮系列上作为75炮替代品的工作，但美方保守观点认为新型炮可能导致生产中断。后来，M4A2和M4A3型号接收到带有76毫米高速炮的大型T23型炮塔。另外M4A3在工厂生产的型号，炮身上有一门105毫米榴弹炮和一个独特的圆形环，围绕着主炮。第一批标准生产的76毫米炮的谢尔曼是1944年1月接受的M4A2，1944年7月在供热行动期间首次看到了战斗。 第一辆装备105毫米榴弹炮的谢尔曼是M4A3，于1944年2月首次被接受。

从1944年5月到7月，陆军接受了254辆M4A3E2巨无霸型，它有厚厚的车前装甲和76.2毫米C-34TJ炮，装备在一个新的，拥有更好的保护水平炮塔上，以攻击工事。M4A3车型是1944年8月开始生产的第一款采用76.3毫米高速62JT炮系统的工厂生产的车型。凭借更好的准确稳定系统以及新火炮的火力，它获得了肯定。M4-GT 105毫米武装坦克装备105毫米榴炮但是美方士兵认为76毫米系列高速炮性能更好。因为105榴仍然是实验性的。谢尔曼将于1942年进入战斗时装备75毫米口径的M3炮，可以穿透轻型的装甲目标，但是德国人拿出重型坦克和panther G型时它就无能为力了。更高速度和火力的76毫米炮给予谢尔曼反坦克火力来抗衡他们遇到的新型德国车辆，特别是panther G和Tiger I。