分辨率截断时机对最终数据结果影响案例1

DJ_Tokyo

★声明：本文仅代表个人观点，笔者学识有限，资料整理过程中难免存在疏漏谬误，请不吝指正。

分辨率截断时机对最终数据结果影响案例1

最近，有小伙伴找笔者帮忙处理一个数据，在用APEX6 [1]进行数据还原时，其默认分辨率截断值为0.632 Å，如图1所示。

▲图1 数据还原时默认分辨率截断值

在XPREP [2]中，统计数据表格表明其有效分辨率（参阅推文“审稿意见-晶体数据的“真实分辨率””）仅为0.86 Å，如图2所示。

▲图2 通过数据统计表格确定有效分辨率

于是在XPREP中将其分辨率截断在0.84 Å（参阅推文“晶体数据审稿意见-分辨率应在何时截断”），最终得到数据结果如图3所示（由Olex2 [3]呈现），无AB级警报（由PLATON [4]呈现）。

▲图3 在XPREP中截断分辨率的数据结果

作为对比，笔者在数据还原时将分辨率截断在0.84 Å（将ResolutionLimit [Å]字段输入区内容由默认的0.632改为0.84），如图4所示，又重新还原了一遍数据。

▲图4 数据还原时截断分辨率

在数据还原阶段截断分辨率，结果如图5所示，R1和wR2相较于在XPREP中截断分辨率的数据要低很多。

▲图5 数据还原时截断分辨率的数据结果

由此可见，数据处理可能需要通过最终结果的反馈多次重新处理才能得到指标更好的结果。

参考文献

[1]    Bruker(2024). APEX6 (Version 2025.6-0). Program for Data Collection on AreaDetectors. Bruker AXS Inc., Madison, Wisconsin, USA.

[2]    Bruker(2014). XPREP (Version 2014/2), Program for Space Group Determination.Bruker AXS Inc., Madison, Wisconsin, USA.

[3]    Dolomanov,O. V.; Bourhis, L. J.; Gildea, R. J.; Howard, J. A. K.; Puschmann, H. OLEX2: A Complete Structure Solution,Refinement and Analysis Program. J. Appl. Cryst. 2009, 42, 339–341. DOI: 10.1107/S0021889808042726.

[4]    (a) Spek, A. L. Single-CrystalStructure Validation with the Program PLATON.J. Appl. Cryst. 2003, 36, 7–13. DOI: 10.1107/S0021889802022112.(b) Spek, A. L. StructureValidation in Chemical Crystallography. ActaCryst. 2009, D65, 148–155. DOI:10.1107/S090744490804362X. (c) Spek, A. L. What Makes a Crystal Structure Report Valid? Inorg. Chim. Acta 2018, 470, 232–237. DOI:10.1016/j.ica.2017.04.036. (d) Spek, A. L. checkCIFValidation ALERTS: What They Mean and How to Respond. Acta Cryst. 2020, E76, 1–11. DOI: 10.1107/S2056989019016244.