고엔트로피 도핑으로 완성한 상용화 가능 초고니켈 코발트프리 단결정 캐소드High-entropy doping promising ultrahigh-Ni Co-free single-crystalline cathode toward commercializable high-energy lithium-ion batteries

코발트 없이도 균열 없는 격자를 만들 수 있는가

니켈리치 캐소드는 니켈 함량을 올릴수록 에너지밀도는 커지지만 구조는 더 잘 부서진다. 코발트(Co)는 오랫동안 이 부서짐을 막아주는 역할을 해왔다. 리튬층의 자기적 교란(magnetic frustration)을 억제해 층상구조를 지탱했기 때문이다. 문제는 Co 자체가 희소하고 가격 변동성이 크며, 채굴 과정의 지정학적 리스크도 크다는 점이다. 업계가 Co를 줄이거나 아예 빼려는 이유가 여기에 있는데, 정작 Co를 빼면 그동안 Co가 맡아온 구조 안정화 기능이 통째로 사라진다. 니켈 함량이 88% 수준으로 올라간 캐소드에서는 이 공백이 특히 치명적이어서, 비가역적 상전이·입자 안팎의 미세균열·전이금속 용출·열안정성 저하가 한꺼번에 몰려온다.

산둥 지난대학(University of Jinan)과 샤먼대학(Xiamen University) 공동 연구팀이 2024년 Science Advances에 발표한 이 논문은 이 공백을 하나의 대체원소가 아니라 여섯 개 원소의 “역할 분담”으로 메운다. Mn·Mg·Fe·Ti·Mo·Nb 여섯 종의 이종원소를 동시에 도핑하는 고엔트로피(high-entropy, HE) 전략을 단결정(single-crystalline, SC) 입자 설계와 결합해, Co를 100% 배제한 니켈 88% 캐소드 LiNi0.88Mn0.03Mg0.02Fe0.02Ti0.02Mo0.02Nb0.01O2(이하 HE-SC-N88)를 만들었다.

Mg2+는 리튬층에 기둥처럼 박혀 슬랩이 미끄러지는 것을 막고, Fe3+는 Co3+와 비슷한 전자배치로 양이온 혼합을 억제하며, Ti4+·Nb5+·Mo6+는 산소와 강하게 결합해 고전압에서도 뼈대를 지킨다.

이 글은 논문 원문(PMC 전문 텍스트, PDF 자동 다운로드는 출판사·PMC 모두 봇 차단으로 실패해 텍스트 전문으로 대체)을 전체 통독하고 정리했다. 배경 개념은 본문 흐름 속에 풀어 썼고, 분석기법 설명은 글 맨 끝 부록에 모아뒀다. Battery Lab의 “하이니켈 양극재 상용화 근접 문헌” 미니시리즈 5편 중 세 번째 편이다.

배경 — Co를 빼면 왜 구조가 무너지는가

리튬이온전지 캐소드 중 니켈리치 층상산화물(LiNixCoyMzO2, x≥0.85)은 에너지밀도가 높아 전기차용 캐소드의 주류다. 그런데 Ni 함량이 올라갈수록 두 가지 문제가 함께 커진다. 하나는 화학기계적(chemomechanical) 불안정성이다. 충방전을 반복하면 입자 표면부터 층상구조가 스피넬상·암염상(rock-salt)으로 뒤틀리고, 이 뒤틀림이 쌓이면 입자 안팎에 미세균열이 생겨 전해질이 침투한다. 다른 하나는 열안정성 저하다. Ni 함량이 높을수록 고온에서 산소를 더 쉽게 내놓고, 방출된 산소는 전해질과 반응해 발열 폭주로 이어질 수 있다.

Co는 이 두 문제 모두에 관여해왔다. Co3+ 특유의 전자배치가 양이온 혼합(cation mixing, Ni2+가 리튬 자리를 침범하는 현상)을 억제해 층상구조를 유지시키기 때문이다. 그런데 Co를 Mg2+·Al3+·Ti4+ 같은 비자성 이온 하나로 단순 치환하면, 이 자기적 안정화 기능을 그 이온 혼자서 떠안아야 한다. 기존 연구들은 이 대체를 시도했지만, 사이클 안정성을 얻는 대신 용량이 줄어드는 트레이드오프에 자주 부딪혔다. 최근에는 Co를 여러 비활성 이종원소로 나눠 대체하는 고엔트로피 도핑이 다결정(polycrystalline, PC) Ni-rich 캐소드에서 격자 변형을 줄이고 열내구성을 높인다는 사실이 보고됐지만, 단결정 입자와 결합해 초고니켈(Ni≥88%) 영역까지 검증한 사례는 이 논문 이전까지 충분히 다뤄지지 않았다.

단결정 설계는 또 다른 축의 해법이다. 입계(grain boundary)가 없는 단일 입자이므로 다결정 입자보다 기계적으로 강건하다는 것이 알려져 있었지만, 단결정 입자 자체도 여전히 입자 내부 균열(intragranular crack)과 열적 불안정을 완전히 벗어나지는 못했다. 이 논문은 고엔트로피 도핑과 단결정 설계를 동시에 적용하면 두 접근이 각자 지닌 한계(HE 단독은 용량 소폭 손실, SC 단독은 여전한 내부 균열)를 상호 보완할 수 있다는 가설에서 출발한다.

무엇을 다뤘나 — 여섯 원소를 침전 단계부터 균일하게 심는다

연구팀은 수산화물 코프레시피테이션(coprecipitation) 공정 중에 Ni·Mn·Mg·Fe·Ti·Mo·Nb 전구체를 동시에 투입해, 별도 고상 혼합 없이 원자 단위로 균일하게 섞인 전구체를 얻었다. 이렇게 얻은 전구체를 리튬화한 뒤 고온 소성해 HE-SC-N88을 완성했다.

• FESEM(전계방출 주사전자현미경): 3–4μm 크기의 단결정 입자가 매끈한 표면과 사라진 입계를 보이며 고르게 흩어져 있음을 확인했다.
• XRD + Rietveld 정련: R-3m 공간군의 α-NaFeO2형 층상구조가 뚜렷했고, Co가 없는데도 Ni/Li 자리 혼입도는 Co 함유 baseline보다 오히려 낮은 수준을 유지했다(정확한 수치는 Supplementary Table S2에만 있어 본문 통독만으로는 확인되지 않는다). 여러 이종원소가 동시에 들어가면서 자기적 교란과 초교환(super-exchange) 결합을 효과적으로 조절한 결과로 해석됐다.
• STEM-HAADF·EDX 라인스캔: 원자 단위 관찰에서 Mg2+가 리튬층 자리를 부분 점유하고 있음을 확인했다(Li+ 이온반경 0.76Å, Mg2+ 0.72Å로 거의 일치). 나머지 도핑원소(Fe·Ti·Mo·Nb)는 니켈층의 팔면체 자리에 들어가 있었다.
• EELS·XPS depth profiling: 표면부터 벌크까지 도핑원소 신호가 에칭 시간에 관계없이 고르게 검출돼, 표면에만 국한되지 않고 몸체 전체에 균일하게 분포함을 재확인했다.

그림 출처: Liang, L. et al., Science Advances 10(25), eado4472 (2024), Fig. 1, DOI: 10.1126/sciadv.ado4472, CC BY-NC 4.0

이 구조적 관찰을 종합하면, HE-SC-N88은 두 가지 메커니즘으로 고전압에서의 구조 붕괴를 막는다. 하나는 리튬 자리에 박힌 Mg2+와 전이금속 이온 사이의 정전기적 반발로, 이는 이온 이동 통로가 새로 뚫리는 것을 억제한다. 다른 하나는 여러 고원자가 이온이 동시에 만드는 강한 전이금속-산소 결합으로, 격자 골격 자체를 단단하게 붙잡아둔다.

대표 결과 — 코인 하프셀부터 파우치 완전셀까지

연구팀은 코발트를 그대로 쓴 단결정 baseline SC-NCM88(LiNi0.88Co0.09Mn0.03O2)을 대조군으로 삼아, 코인 하프셀(2.8V 종지, 상한 컷오프전압 4.3–4.7V 5단계)과 파우치 완전셀(약 5.1Ah급 권취형) 양쪽에서 비교했다.

가장 널리 쓰이는 조건인 2.8–4.3V·1C에서는 HE-SC-N88이 300사이클 후 95.7%를, 대조군은 76.6%를 기록했다(Fig.2D 그래프 판독치). 전압창을 4.4V, 4.5V로 높일수록 두 소재의 격차는 오히려 벌어졌다. 4.3V에서 19.1%포인트였던 차이가 4.5V에서는 28.3%포인트까지 커진다. 상한전압을 4.6V까지 밀어붙여도 HE-SC-N88은 300사이클 81.7%를 유지했고, 이는 대조군의 56.9%를 크게 웃돈다. 고율·고온을 동시에 가하는 조건(3C·55°C)에서는 격차가 55.9%포인트까지 벌어져(Fig.2H 그래프 판독치), HE-SC-N88이 평상시보다 극한 조건에서 오히려 더 진가를 발휘하는 경향이 뚜렷했다.

코인셀에서 확인한 이점이 실제 완전셀 규모에서도 이어지는지가 이 논문의 핵심 관문이다. 상용 수준에 근접한 약 5.1Ah 파우치 완전셀로 시험한 결과, 2.8–4.3V·1C·25°C 조건에서 2500사이클 시점 92.4%, 3500사이클 시점 80.6%의 용량유지율을 기록했다(사이클당 손실률 약 0.0055%). 55°C 고온에서도 2000사이클 78.2%를 지켰다. 2.8–4.5V로 전압창을 넓힌 조건에서는 1000사이클 91.1%를 기록했다.

그림 출처: Liang, L. et al., Science Advances 10(25), eado4472 (2024), Fig. 2, DOI: 10.1126/sciadv.ado4472, CC BY-NC 4.0

이 결과가 완전셀 baseline과 직접 비교되지 않는다는 점은 짚어둘 필요가 있다. SC-NCM88 완전셀은 그래프(fig. S22, S23)로만 제시됐을 뿐 정량 유지율 수치가 본문·표 어디에도 없다. 코인셀 단계에서 관찰된 개선폭이 완전셀 규모에서도 동일하게 유지되는지는 이 논문 안에서 정량적으로 확인할 방법이 없다.

메커니즘 — 격자가 왜 덜 뒤틀리는가

전기화학 성능 차이의 원인을 연구팀은 원자 수준 분석으로 추적했다. 경X선 흡수분광(XANES)과 EXAFS로 니켈의 원자가와 국소 배위환경을 살펴보면, 300사이클을 거친 SC-NCM88은 흡수단 에너지가 1.5eV나 좌측으로 이동했다. 이는 Ni2+ 부산물이 쌓이고 암염상(NiO형) 결함이 생겼다는 신호다. 같은 조건의 HE-SC-N88은 이동폭이 0.36eV에 그쳐 원래 상태를 거의 그대로 유지했다.

구조 변형의 근본 원인인 H2-H3 상전이도 in situ XRD로 직접 관찰했다. 4.6V까지 충전하는 동안 SC-NCM88은 c축 격자상수가 5.85% 수축하고 부피가 8.06% 줄어드는 급격한 상전이를 겪었다. HE-SC-N88은 같은 조건에서 c축 수축이 2.91%, 부피 감소가 4.20%로 절반 가까이 줄었다. 여러 고원자가 도핑 이온이 만든 강한 결합이 상전이 자체의 폭을 눌러준 셈이다.

이 격자 수준 안정성은 실제 입자 손상으로 직결됐다. 4.6V에서 300사이클을 마친 SC-NCM88 단면을 전자현미경으로 들여다보면 입자 곳곳에 뚜렷한 균열이 나 있었다. 같은 조건의 HE-SC-N88은 균열 없이 입자 형태를 그대로 유지했다. 4.8V라는 극단적 고전압까지 충전해 격자면 미끄러짐(planar gliding)을 유도하는 스트레스 테스트에서도, SC-NCM88 표면은 뚜렷한 변형이 관찰된 반면 HE-SC-N88은 눈에 띄는 변형이 나타나지 않았다.

표면 손상 정도도 확연히 갈렸다. 4.6V·300사이클을 거친 반쪽셀에서 HE-SC-N88의 표면 암염상 재구성층은 HAADF-STEM 관찰 결과 3nm 미만에 그쳤다. 완전셀 기준으로는 SC-NCM88 쪽에서 리튬 이동을 막는 두꺼운 CEI(cathode-electrolyte interphase, 캐소드-전해질 계면)층이 20nm 이상 형성돼, 두 소재 모두 표면 손상 지표에서 뚜렷한 격차를 보였다. XPS·TOF-SIMS로 확인한 CEI 조성에서도 HE-SC-N88 쪽이 부산물 신호가 일관되게 낮아, 전해질과의 부반응 자체가 억제됐음을 뒷받침했다.

안전성 — 산소를 덜 내놓고, 발열도 늦게 시작한다

니켈리치 캐소드의 열폭주 위험은 대부분 고전압 충전 상태에서 격자산소가 방출되며 시작된다. 연구팀은 실시간 가스 방출 추적(in situ DEMS)으로 충전 중 발생하는 산소(m/z=32)와 이산화탄소(m/z=44) 신호를 비교했다. SC-NCM88은 충전이 진행될수록 두 신호가 뚜렷이 관측된 반면, HE-SC-N88은 같은 조건에서 산소·이산화탄소 방출이 사실상 감지되지 않았다.

시차주사열량측정(DSC)으로 측정한 발열 피크 온도는 SC-NCM88이 200.3°C, HE-SC-N88이 243.7°C로 43.4°C 늦춰졌다. 총 발열량도 SC-NCM88의 846.5 J/g에서 HE-SC-N88 327.8 J/g으로 61.3% 줄었다. 승온 XRD(TR-XRD)로 본 상전이 온도 역시 SC-NCM88은 156°C에서 층상구조가 스피넬상으로 무너지기 시작한 반면, HE-SC-N88은 213°C까지 버텼다. 이 논문은 HE-SC-N88의 열안정성이 니켈 함량이 더 낮은 NCM523과 비슷한 수준까지 올라왔다고 평가했다.

그림 출처: Liang, L. et al., Science Advances 10(25), eado4472 (2024), Fig. 6, DOI: 10.1126/sciadv.ado4472, CC BY-NC 4.0

HE-SC-N88은 가열 중 실시간(in situ) 투과전자현미경(TEM) 관찰에서도 같은 방향을 가리켰다. 4.7V로 충전한 HE-SC-N88은 21°C부터 500°C까지 가열하는 동안 산소 방출로 인한 입자 내부 균열이 전혀 관찰되지 않았고, 회절패턴도 층상구조의 특성을 그대로 유지했다. 반면 SC-NCM88은 같은 조건으로 충전한 뒤 300°C, 400°C, 500°C에서 각각 30분씩 유지하며 관찰하는 방식(ex situ)으로 시험했는데, 300°C에서부터 입자 내부에 균열이 나타나기 시작해 400°C, 500°C로 갈수록 균열이 넓어졌고, 500°C에서는 회절패턴이 암염상 구조로 완전히 바뀌었다.

고찰 — 이 논문이 다 보여주지 못한 지점

이 논문의 강점은 Co를 완전히 배제하면서도 성능·기계적 안정성·열안정성이라는 세 축을 동시에, 그것도 코인셀을 넘어 상용 규격에 근접한 5.1Ah 파우치 완전셀 3500사이클까지 검증했다는 데 있다. 구조 확인(XRD·STEM·EDX)부터 원자수준 배위환경 분석(XANES·EXAFS), 실시간 가스방출·열분해 추적(DEMS·DSC·TR-XRD)까지 하나의 일관된 서사로 엮은 점도 이 시리즈가 다뤄온 논문들 중에서도 촘촘한 편이다.

다만 이 논문이 다루지 않은 지점도 분명하다. 첫째, 파우치 완전셀 단계에서 SC-NCM88(baseline) 대비 정량 비교 데이터가 전혀 없다. Supplementary 그래프(fig. S22, S23)에는 곡선만 제시되고 정확한 유지율 수치가 본문·표 어디에도 없어, 코인셀에서 확인된 개선폭이 완전셀 규모에서도 동일하게 유지되는지는 이 논문만으로는 확인할 수 없다. 둘째, 세 가지 완전셀 시험 조건(4.3V/25°C, 4.3V/55°C, 4.5V/25°C)이 각각 개별 셀 1회씩만 시험됐고, 배치 간 재현성이나 통계적 편차는 보고되지 않았다. 셋째, 여섯 개 도핑원소 각각의 개별 기여도를 분리하는 소거(ablation) 실험이 없다. 저자들은 각 원소의 역할(Mg=필러, Fe=혼합억제, Ti/Nb/Mo=결합강화)을 개념적으로 제시했지만, 이는 문헌 인용과 원소 위치 확인에 근거한 추론이지 원소를 하나씩 빼거나 비율을 바꿔가며 검증한 결과가 아니다. 넷째, DEMS·DSC·TR-XRD 등 열안정성 시험은 모두 리튬 금속 대극을 쓴 코인 하프셀에서 이뤄졌다. 실제 밀폐된 파우치 완전셀 내부에서도 같은 수준의 가스방출 억제·열지연 효과가 재현되는지는 이 논문에 직접 데이터가 없다.

My Take

이 논문에서 눈여겨볼 지점은 “Co가 하던 일을 누가 대신하는가”라는 질문에 이 논문이 어떻게 답하는가다. 흔히 Co 대체 전략은 성질 좋은 특정 원소 하나를 골라 그 자리를 메우려 한다. 이 연구는 정반대로, 여섯 원소가 각자 다른 결정학적 자리와 역할(리튬층 필러, 전자배치 매칭, 산소 결합 강화)을 나눠 맡도록 설계했다. 그 결과로 Co 없이도 Ni/Li 자리 혼입도가 오히려 baseline보다 낮아진 것은, 특정 원소의 전통적 역할이 그 원소에 고유한 것이 아니라 전체 조성 환경의 산물일 수 있다는 점을 시사한다.

동시에 상용화 앞에서 검증해야 할 숙제도 뚜렷하다. 코인셀에서는 대조군과 나란히 비교했지만, 정작 제목이 강조하는 “commercializable”의 근거인 파우치 완전셀 단계에서는 대조군 정량 데이터가 빠져 있다. 여섯 원소 각각의 기여도를 분리하는 실험도, 완전셀 내부에서의 안전성 실증도 아직 남은 과제다. 이전 편에서 다룬 산소 결핍 불활성상 코팅이 “표면에서 화학적으로 산소를 처리한다”는 접근이었다면, 이번 편은 “입자 설계와 도핑 조성을 함께 바꿔 격자 자체를 단단하게 만든다”는 접근이다. 같은 목표(고니켈 캐소드의 안정화)에 서로 다른 각도로 접근하는 전략들을 나란히 보면, 상용화로 가는 길이 하나가 아니라는 점이 다시 한번 확인된다. 다음 편에서는 이 시리즈의 또 다른 논문이 어떤 각도에서 같은 문제를 풀어가는지 이어서 다룰 예정이다.

부록 — 이 글을 이해하는 데 필요한 배경지식과 용어

1. 니켈리치 캐소드 관련 핵심 개념

• 니켈리치 캐소드(Ni-rich cathode): 리튬이온전지 양극재 중 니켈 함량이 85몰% 이상인 층상산화물. 니켈이 많을수록 뽑아낼 수 있는 용량이 커지지만, 구조 안정성과 열안정성은 함께 떨어진다.
• 고엔트로피 도핑(high-entropy doping): 특정 원소 하나가 아니라 여러 이종원소를 동시에 소량씩 섞어 넣는 도핑 전략. 여러 원소가 뒤섞이며 만드는 구성적 무질서(엔트로피)가 격자를 오히려 안정화한다는 개념에서 출발한다.
• 단결정(single-crystalline, SC) 입자: 여러 개의 작은 결정이 뭉쳐진 다결정(polycrystalline) 입자와 달리 입계가 없는 하나의 결정 입자. 입계를 따라 번지는 균열이 원천적으로 적다.
• 양이온 혼합(cation mixing): 리튬이 있어야 할 자리에 니켈 같은 전이금속 이온이 잘못 들어앉는 현상. 리튬이 오가는 통로를 막아 용량과 율속 성능을 떨어뜨린다.
• H2-H3 상전이: 니켈리치 캐소드를 고전압까지 충전할 때 결정구조가 겪는 급격한 상 변화 중 하나. 격자가 갑자기 수축하면서 내부 응력을 크게 유발해 미세균열의 주요 원인으로 꼽힌다.

2. 이 논문에 쓰인 분석기법

• 경X선 흡수분광(XANES)과 확장 X선 흡수미세구조(EXAFS): 고에너지 X선으로 특정 원소의 원자가와 주변 원자와의 결합거리를 알아내는 기법으로, 이 논문에서는 사이클 전후 니켈의 원자가 변화(XANES)와 국소 배위환경 변화(EXAFS)를 이 방식으로 추적했다.
• in situ 미분전기화학질량분석(DEMS): 셀을 충전하는 동안 실시간으로 빠져나오는 기체를 질량분석기로 검출하는 기법이다. 첫 충전 중 산소·이산화탄소가 얼마나 나오는지를 두 캐소드에서 직접 비교할 때 이 기법을 썼다.
• 시차주사열량측정(DSC, differential scanning calorimetry): 시료를 일정 속도로 가열하며 발생하는 열량을 정밀 측정하는 기법. 고전압으로 충전한 캐소드가 몇 도에서 발열 분해를 시작하는지, 얼마나 많은 열을 내는지를 정량화하는 데 썼다.
• 승온 X선회절(TR-XRD, time-resolved XRD): 시료를 가열하면서 동시에 X선 회절 패턴을 연속 촬영해 결정구조 변화를 온도별로 추적하는 기법으로, 층상구조가 스피넬상·암염상으로 순차 붕괴하는 온도 지점을 정밀하게 짚어냈다.
• 가열 투과전자현미경(in/ex situ heating TEM): 시료를 현미경 안에서 직접 가열하며 실시간으로 미세구조 변화를 관찰하는 기법. 균열이 몇 도에서 나타나기 시작하고 어떻게 퍼지는지를 시각적으로 확인하는 데 썼다.