行政处罚应遵循的原则有：

参考解析：

第一步，本题考查行政处罚知识。
第二步，A项：根据2021年版《行政处罚法》第五条，行政处罚遵循公正、公开的原则。设定和实施行政处罚必须以事实为依据，与违法行为的事实、性质、情节以及社会危害程度相当。对违法行为给予行政处罚的规定必须公布；未经公布的，不得作为行政处罚的依据。该条体现的是过罚相当原则。A项正确，当选。
B项：根据2021年版《行政处罚法》第六条，实施行政处罚，纠正违法行为，应当坚持处罚与教育相结合，教育公民、法人或者其他组织自觉守法。该条体现的是处罚与教育相结合原则。B项正确，当选。
C项：根据2021年版《行政处罚法》第四条，公民、法人或者其他组织违反行政管理秩序的行为，应当给予行政处罚的，依照本法由法律、法规、规章规定，并由行政机关依照本法规定的程序实施。该条体现的是处罚法定原则。C项正确，当选。
D项：根据2021年版《行政处罚法》第二十九条，对当事人的同一个违法行为，不得给予两次以上罚款的行政处罚。同一个违法行为违反多个法律规范应当给予罚款处罚的，按照罚款数额高的规定处罚。该条体现的是一事不再罚原则。D项正确，当选。
因此，选择ABCD选项。