是。根据爱企查查询可知，上海华瑞银行就是上海华瑞银行股份有限公司，成立于2015年，在上海市市场监督管理局备案登记，由国家机关单位进行监督管理，所以上海华瑞银行是正规银行。