下列关于行政机关在调查或者进行检查时的情形，正确的有：

参考解析：

第一步，本题考查行政处罚法知识。
第二步，根据2021年版《行政处罚法》第五十五条，执法人员在调查或者进行检查时，应当主动向当事人或者有关人员出示执法证件。当事人或者有关人员有权要求执法人员出示执法证件。执法人员不出示执法证件的，当事人或者有关人员有权拒绝接受调查或者检查。当事人或者有关人员应当如实回答询问，并协助调查或者检查，不得拒绝或者阻挠。询问或者检查应当制作笔录。C项错误，B项正确。
根据2021年版《行政处罚法》第四十二条，行政处罚应当由具有行政执法资格的执法人员实施。执法人员不得少于两人，法律另有规定的除外。执法人员应当文明执法，尊重和保护当事人合法权益。
根据2021年版《行政处罚法》第四十三条　执法人员与案件有直接利害关系或者有其他关系可能影响公正执法的，应当回避。当事人认为执法人员与案件有直接利害关系或者有其他关系可能影响公正执法的，有权申请回避。
当事人提出回避申请的，行政机关应当依法审查，由行政机关负责人决定。决定作出之前，不停止调查。AD选项正确。
因此，选择ABD选项。