行政处罚和行政处分都是行政责任的形式，都是主要由行政机关作出的，但是二者在很多方面存在着区别：
第一，被制裁的行为性质不同。行政处罚针对的行为是行政违法行为，是那些违反行政法律规范应受法定的行政机关处罚的行为，比如说违反治安管理条例的行为，结伙斗殴、寻衅滋事、侮辱妇女、扰乱了社会管理秩序但是又没有构成犯罪的。行政处分所要制裁的行为是那些在执行职务的时候实施的违法行为，这样的行为可以称为失职、渎职行为或者行政违纪行为。国家行政机关的工作人员在执行职务以外所实施的违法行为和其他公民一样，同样会受到行政处罚或者刑罚制裁。但是行政处分所针对的行为则是执行职务时实施的，如尚未构成犯罪的贪污、贿赂、利用职权进行打击报复、挪用公款等。
第二，进行行政处罚和作出行政处分的主体不同。行政处分权是各级行政机关的固有权力，不需要法律的特别授权或者委托，其中行政监察机关的行政处分权是国家法律法规授权产生的，这是一种例外情况。但是拥有行政处罚权的主体则是有严格限制的，只有经过法律授权的行政机关或者其他组织才可能行使这些权力，而且有的权力是专属于某些机关的，比如行政拘留只能由公安机关作出。
第三，行政处罚和行政处分针对的对象不同。行政处罚的对象是行政管理的相对人，可以是公民、法人或者其他社会组织，行政机关当然也可以成为行政处罚的对象。这些行政管理相对人在受到行政处罚的时候与行政处罚机关不必存在隶属关系。但是行政处分是基于被处分者的身份才能产生的一种责任，其对象一般限于行政机关工作人员，即与进行处分的机关有隶属关系。
第四，形式不同。行政处罚的种类是《行政处罚法》规定的，包括以下几类：警告、罚款、责令停产停业、暂扣或者吊销许可证、暂扣或者吊销营业执照、没收非法财物、没收违法所得、行政拘留。而且各种行政机关能够作出哪些种类的行政处罚权力是不同的，需要根据法律的规定执行。行政处分的形式，根据国务院《关于国家行政机关工作人员的奖惩暂行规定》，共有：警告、记过、记大过、降级、降职、撤职、开除留用察看和开除等8种。每个行政机关都可以行使这8种形式的行政处分。监察机关的监察处分形式有6种：警告、记过、记大过、降级、降职、撤职。
第五，救济方法不同。对于行政处分，受处分者是不能提起行政诉讼的。但是对于行政处罚，则可以提出行政复议或者行政诉讼。