应该保留。《保险公司信息披露管理办法》第二十五条规定：保险公司网站应该保留最近五年的公司年度信息披露报告以及临时信息披露报告。

新修改的《保险公司信息披露管理办法》一共有四十条，从2018年7月1日开始施行，除了第二十五条的有关规定，新修改的《保险公司信息披露管理办法》还包括保险公司应当按照法律、行政法规和以及国银行保险监督管理委员会的规定进行信息披露等内容。