公法之债的债权人往往享有私法之债的债权人所没有的种种特权，例如公法之债产生争议或得不到履行时无需借助司法机关而自行实现其债权的强制执行权（自力救济），以及相对于私法之债的优先受偿权。发端于1919年德国《租税通则》第81条“税收债务关系说”的税收之债是公法之债的典型，世界各国在税法上规定滞纳金的理论根据也正基于此。
性质不同。行政处罚和执行罚虽然都是针对不履行法定义务的当事人，但行政处罚本质上属于制裁性法律责任，于设定新的义务；执行罚属于强制性法律责任，是以设定新的义务的办法来促使当事人履行法定义务。
现实中屡屡出现的巨额滞纳金案例无疑是将手段作为目的，从而异化了滞纳金制度设置的初衷。可是，“在与刑事罚的关系上，执行罚的过错罚款数额必须与之均衡，这样的话，与刑事罚相比较，被认为抑制效果甚微”。170.由此导致的结果是：日本《行政执行法》被废止后执行罚制度的式微，仅在《防沙法》第36条中规定了执行罚制度，作为确保不履行作为义务的替代方法是刑事罚的广泛导入。
对于信用卡的违约金并不应该如此无限制的计收，而是有期次或数额限制的。例如，我国台湾地区中国国际商业银行信用卡的违约金限三期收取，即“延滞个月当月计收违约金150元（新台币），延滞第二个月当月计收违约金300元，延滞第三个月（含）以上者每月计收逾期手续费600元”；汇丰银行信用卡的违约金也是多收取三期，即“以当期账单累积金额中之消费金额及预借现金金额扣除持卡人于当期缴款截止日止已偿付之账款后之金额，按2.5%计算。惟持卡人违反前开付清当期应缴金额之约定连续三期（含）以上者，其应付之违约金，以三期为限”。美国对于信用卡延迟费的收取没有期次限制，而是定额的，即大多数主要的发卡行收取的延迟费从15美元到39美元，在2005年，信用卡延迟费平均收取37美元实际上，这也是合同法理论中违约责任的可预见性规则的运用。