AI trong y tế - AI in Medicine: The Good, the Bad, and the Ugly." (Drs. Le and Shaw)

Introduction (Giới thiệu) Welcome to Sisterhood and surgery, discussing AI in medicine: The Good, the Bad, and the Ugly....

Introduction (Giới thiệu)

• Welcome to Sisterhood and surgery, discussing AI in medicine: The Good, the Bad, and the Ugly. 00:02:09 Chào mừng đến với Sisterhood and surgery, thảo luận về AI trong y học: Mặt tốt, mặt xấu và mặt tồi tệ. 00:02:09
• Co-host Dr. Palma Shaw, live show, questions via pollev.com (debaki) or text debaki to 37607. 00:02:26 Đồng dẫn chương trình Dr. Palma Shaw, chương trình trực tiếp, câu hỏi qua pollev.com (debaki) hoặc nhắn tin debaki đến 37607. 00:02:26

Introductions of Guests (Giới thiệu khách mời)

• Introduction of Dr. Omar Tuar: Consultant in anesthesia intensive care and medicine, National Orthopedic Hospital, Dublin. Trained in Italy, France, Ireland, Brussels. European diplomas in anesthesiology and regional anesthesia, Masters in leadership, Public Health, postgraduate diploma in clinical teaching. ICU coordination, led covid-19 response at Sligo University Hospital, Ireland. Founded International Society of medical artificial intelligence. 00:02:50 Giới thiệu Dr. Omar Tuar: Chuyên gia tư vấn gây mê hồi sức và y học, Bệnh viện Chỉnh hình Quốc gia, Dublin. Đào tạo tại Ý, Pháp, Ireland, Brussels. Bằng cấp châu Âu về gây mê và gây tê vùng, Thạc sĩ lãnh đạo, Y tế công cộng, bằng sau đại học về giảng dạy lâm sàng. Điều phối ICU, dẫn đầu ứng phó covid-19 tại Bệnh viện Đại học Sligo, Ireland. Sáng lập Hội trí tuệ nhân tạo y tế quốc tế. 00:02:50
• Introduction of Dr. Sharon Kang: Surgeon scientist, uses AI for disease predictive models for abdominal aortic aneurysms (AAA). MD from Vanderbilt, residency at Yale, vascular surgery fellowship at UCLA, Loma Linda University Medical Center, Associate chief of staff for research and development at VA Loma Linda, PI of center for artificial intelligence and Vascular engineering. Uses AI to predict outcomes in vascular disease, deep learning model for AAA identification, studies AAA behavior using CNN and DL algorithms. Editorial board for JVS CIT and annals of vascular surgery, scientific reviewer, guest editor for seminars in vascular surgery and upcoming guest editor for JBS insights on AI and vascular surgery. 00:03:51 Giới thiệu Dr. Sharon Kang: Bác sĩ phẫu thuật kiêm nhà khoa học, sử dụng AI cho mô hình dự đoán bệnh lý phình động mạch chủ bụng (AAA). MD từ Vanderbilt, nội trú tại Yale, nghiên cứu sinh phẫu thuật mạch máu tại UCLA, Trung tâm Y tế Đại học Loma Linda, Phó trưởng phòng nghiên cứu và phát triển tại VA Loma Linda, PI của trung tâm trí tuệ nhân tạo và kỹ thuật mạch máu. Sử dụng AI để dự đoán kết quả trong bệnh mạch máu, mô hình học sâu để xác định AAA, nghiên cứu hành vi AAA bằng thuật toán CNN và DL. Ban biên tập cho JVS CIT và annals of vascular surgery, nhà phê bình khoa học, biên tập viên khách mời cho các hội thảo về phẫu thuật mạch máu và biên tập viên khách mời sắp tới cho JBS insights về AI và phẫu thuật mạch máu. 00:03:51

Rationale for Society of Medical AI (Lý do thành lập Hội AI Y tế)

• Dr. Omar Tuar explains the rationale behind starting the Society of Medical AI. Group of doctors fascinated by AI technology. 00:06:37 Dr. Omar Tuar giải thích lý do thành lập Hội AI Y tế. Nhóm bác sĩ say mê công nghệ AI. 00:06:37
• Question: Who controls AI in healthcare? What is the framework for implementation? Need to be careful not to be overwhelmed by AI. 00:06:58 Câu hỏi: Ai kiểm soát AI trong chăm sóc sức khỏe? Khuôn khổ triển khai là gì? Cần cẩn thận để không bị AI choáng ngợp. 00:06:58
• Need framework, ethics, governance for AI implementation in healthcare. Doctors/healthcare professionals must control AI, not be controlled by it. 00:07:15 Cần khuôn khổ, đạo đức, quản trị cho việc triển khai AI trong chăm sóc sức khỏe. Bác sĩ/chuyên gia chăm sóc sức khỏe phải kiểm soát AI, không bị nó kiểm soát. 00:07:15
• Core principle: Medical/Healthcare professional oversight of AI in healthcare. 00:07:47 Nguyên tắc cốt lõi: Giám sát AI trong chăm sóc sức khỏe bởi chuyên gia Y tế/Chăm sóc sức khỏe. 00:07:47
• Potential dark areas: algorithmic bias, black box issue. Need to be cautious about implementation, patient-centered approach. 00:07:57 Các khía cạnh tối có thể có: thiên vị thuật toán, vấn đề hộp đen. Cần thận trọng về triển khai, tiếp cận lấy bệnh nhân làm trung tâm. 00:07:57
• AI as assistant/co-pilot, not replacement for doctors. Philosophically wrong for machine to replace human in human interaction. Practical questions of liability and governance of medical errors. 00:08:39 AI là trợ lý/phi công phụ, không thay thế bác sĩ. Về mặt triết học, máy móc thay thế con người trong tương tác giữa người với người là sai. Câu hỏi thực tế về trách nhiệm pháp lý và quản trị sai sót y tế. 00:08:39
• AI is a tool, need governance for patient-related technology. 00:09:17 AI là một công cụ, cần quản trị công nghệ liên quan đến bệnh nhân. 00:09:17

Physician's Role in AI Development (Vai trò của bác sĩ trong phát triển AI)

• Dr. Sharon Kang agrees with Dr. Tuar, emphasizes AI is not new, just new to medical use. Examples: stock market, Amazon, military. 00:09:37 Dr. Sharon Kang đồng ý với Dr. Tuar, nhấn mạnh AI không mới, chỉ mới trong sử dụng y tế. Ví dụ: thị trường chứng khoán, Amazon, quân sự. 00:09:37
• Physicians overwhelmed, risk letting others take lead in AI. Physicians have a role to ensure responsible AI, patient-centered, for medical innovation, care, safety. 00:10:59 Bác sĩ quá tải, có nguy cơ để người khác dẫn đầu trong AI. Bác sĩ có vai trò đảm bảo AI có trách nhiệm, lấy bệnh nhân làm trung tâm, vì đổi mới y tế, chăm sóc, an toàn. 00:10:59
• Not asking physicians to be coders, but active participants in AI implementation. Technology can run away from physicians if not actively involved. 00:11:04 Không yêu cầu bác sĩ trở thành người viết mã, mà là người tham gia tích cực vào việc triển khai AI. Công nghệ có thể vượt khỏi tầm kiểm soát của bác sĩ nếu không tham gia tích cực. 00:11:04
• Physicians are experts in patient care, must be active participants to ensure AI benefits patients. AI can improve care delivery, address disparities, predict disease outcomes. 00:11:37 Bác sĩ là chuyên gia trong chăm sóc bệnh nhân, phải là người tham gia tích cực để đảm bảo AI mang lại lợi ích cho bệnh nhân. AI có thể cải thiện cung cấp dịch vụ chăm sóc, giải quyết sự khác biệt, dự đoán kết quả bệnh tật. 00:11:37

Development vs. Progress and Ethics in AI (Phát triển so với Tiến bộ và Đạo đức trong AI)

• Difference between development (technology evolution) and progress (development intertwined with ethics and human-centered care). 00:12:40 Sự khác biệt giữa phát triển (tiến hóa công nghệ) và tiến bộ (phát triển gắn liền với đạo đức và chăm sóc lấy con người làm trung tâm). 00:12:40
• Development is rapid, but progress requires ethics and human-centered care. Risk of AI driven by efficiency/profit if left to tech companies, not patient-centered care. 00:12:55 Phát triển nhanh chóng, nhưng tiến bộ đòi hỏi đạo đức và chăm sóc lấy con người làm trung tâm. Nguy cơ AI bị thúc đẩy bởi hiệu quả/lợi nhuận nếu để các công ty công nghệ tự quyết, không phải chăm sóc lấy bệnh nhân làm trung tâm. 00:12:55
• Data governance and protection concerns. Patient data in systems, unknown where data is processed/stored, patient privacy risks. 00:13:59 Lo ngại về quản trị dữ liệu và bảo vệ dữ liệu. Dữ liệu bệnh nhân trong hệ thống, không rõ dữ liệu được xử lý/lưu trữ ở đâu, rủi ro về quyền riêng tư của bệnh nhân. 00:13:59
• Need AI literacy for physicians to understand technology, biases, and gaps. 00:14:48 Cần phổ cập kiến thức về AI cho bác sĩ để hiểu công nghệ, sự thiên vị và những hạn chế. 00:14:48

Efficiency and AI in Healthcare - Documentation and Workload (Hiệu quả và AI trong Chăm sóc Sức khỏe - Hồ sơ và Khối lượng công việc)

• AI can help with physician burnout by reducing paperwork and documentation burden. Apps can listen to clinic visits and generate notes. 00:15:38 AI có thể giúp giảm kiệt sức cho bác sĩ bằng cách giảm gánh nặng giấy tờ và hồ sơ. Các ứng dụng có thể nghe các cuộc thăm khám tại phòng khám và tạo ghi chú. 00:15:38
• Concerns about control, HIPAA compliance, data privacy with note-taking apps. 00:15:57 Lo ngại về kiểm soát, tuân thủ HIPAA, quyền riêng tư dữ liệu với các ứng dụng ghi chú. 00:15:57
• AI can improve efficiency, streamline bureaucracy, give doctors time back for patients. 00:16:31 AI có thể cải thiện hiệu quả, tinh giản bộ máy quan liêu, trả lại thời gian cho bác sĩ dành cho bệnh nhân. 00:16:31
• Need to double-check AI outputs, audit process, doctors to sign off on AI decisions. Risk of misinterpretation, incorrect transcriptions, wrong billing codes. 00:17:06 Cần kiểm tra kỹ đầu ra của AI, quy trình kiểm toán, bác sĩ ký duyệt các quyết định của AI. Nguy cơ hiểu sai, phiên âm không chính xác, mã thanh toán sai. 00:17:06
• EU AI act for risk assessment, lack of global standardization for AI governance. Data privacy concerns with patient data in apps. 00:17:57 Đạo luật AI của EU về đánh giá rủi ro, thiếu tiêu chuẩn hóa toàn cầu về quản trị AI. Lo ngại về quyền riêng tư dữ liệu với dữ liệu bệnh nhân trong ứng dụng. 00:17:57
• Imperfect tech, no real validation for large language models, semantic/diction errors. Medical legal implications are significant. 00:19:41 Công nghệ chưa hoàn hảo, không có xác nhận thực sự cho các mô hình ngôn ngữ lớn, lỗi ngữ nghĩa/từ vựng. Ý nghĩa pháp lý y tế rất quan trọng. 00:19:41
• Comparison to Tesla self-driving cars is not appropriate for medical AI due to patient risk, license, liability. Stringent oversight needed. 00:20:44 So sánh với xe tự lái Tesla không phù hợp với AI y tế do rủi ro bệnh nhân, giấy phép hành nghề, trách nhiệm pháp lý. Cần giám sát chặt chẽ. 00:20:44
• Government oversight is often reactionary to new tech, policy makers struggle to keep up with rapid AI development. 00:21:48

International Standards and Different Regulations for AI Implementation (Tiêu chuẩn Quốc tế và Các Quy định Khác nhau về Triển khai AI)

• Lack of international standardization in AI implementation and governance. Different AI companies, continents, regulations. 00:22:57 Thiếu tiêu chuẩn hóa quốc tế trong việc triển khai và quản trị AI. Các công ty AI, châu lục, quy định khác nhau. 00:22:57
• Hospitals using CH GPT with varying standards of care internationally. 00:23:28 Các bệnh viện sử dụng CH GPT với các tiêu chuẩn chăm sóc khác nhau trên quốc tế. 00:23:28
• Advocating for standardization of AI implementation and regulation internationally. 00:23:57 Vận động cho tiêu chuẩn hóa việc triển khai và quy định AI trên quốc tế. 00:23:57

Potential Benefits of AI: Efficiency and Help for Primary Care (Lợi ích tiềm năng của AI: Hiệu quả và Hỗ trợ Chăm sóc Ban đầu)

• Reality: Chat GPT could be helpful, especially for primary care physicians drowning in work. 00:24:48 Thực tế: Chat GPT có thể hữu ích, đặc biệt đối với các bác sĩ chăm sóc ban đầu đang quá tải công việc. 00:24:48
• AI can help with efficiency, automate processes in hospitals, ED, ICU, primary care. 00:25:39 AI có thể giúp tăng hiệu quả, tự động hóa các quy trình trong bệnh viện, khoa cấp cứu, ICU, chăm sóc ban đầu. 00:25:39
• AI can obviate generic screenings, routine tasks, potentially offset 40% of routine upkeep in primary care. 00:26:00 AI có thể loại bỏ các sàng lọc chung, các nhiệm vụ thông thường, có khả năng bù đắp 40% công việc duy trì thường xuyên trong chăm sóc ban đầu. 00:26:00
• AI deployment in low-access locations shows potential, no data yet on harm, but success in improving access to care still to be determined. 00:27:04 Triển khai AI ở các địa điểm khó tiếp cận cho thấy tiềm năng, chưa có dữ liệu về tác hại, nhưng thành công trong việc cải thiện khả năng tiếp cận dịch vụ chăm sóc vẫn cần được xác định. 00:27:04
• Unethical not to use AI in the future when technology becomes more sophisticated and beneficial for patient care. Analogy to ultrasound for central lines. 00:27:40 Vô đạo đức nếu không sử dụng AI trong tương lai khi công nghệ trở nên tinh vi và có lợi hơn cho việc chăm sóc bệnh nhân. Tương tự như siêu âm cho đường truyền trung tâm. 00:27:40
• Need to be careful on implementation, have framework and guidance for right use, AI literacy, awareness of biases. 00:28:20 Cần cẩn thận trong việc triển khai, có khuôn khổ và hướng dẫn sử dụng đúng cách, phổ cập kiến thức về AI, nhận thức về sự thiên vị. 00:28:20
• AI can help write diplomatic letters, streamline communication. 00:28:44 AI có thể giúp viết thư ngoại giao, hợp lý hóa giao tiếp. 00:28:44
• Computer vision AI for wound assessment in primary care, mobile apps to differentiate wound types, augment efficiency. 00:29:08 AI thị giác máy tính để đánh giá vết thương trong chăm sóc ban đầu, ứng dụng di động để phân biệt các loại vết thương, tăng hiệu quả. 00:29:08

AI in Specific Medical Fields: Primary Care and Wound Assessment (AI trong các lĩnh vực y tế cụ thể: Chăm sóc ban đầu và Đánh giá vết thương)

• AI applications in primary care: potential to help with workload, but caution needed. 00:29:38 Ứng dụng AI trong chăm sóc ban đầu: tiềm năng giúp giảm tải công việc, nhưng cần thận trọng. 00:29:38
• Computer vision based mobile apps for wound assessment: differentiate venous vs. arterial insufficiency. Thermogenic AI algorithms for visual-based assessment. 00:29:48 Ứng dụng di động dựa trên thị giác máy tính để đánh giá vết thương: phân biệt suy tĩnh mạch và suy động mạch. Thuật toán AI nhiệt cho đánh giá dựa trên hình ảnh. 00:29:48
• AI can augment efficiency in primary care and wound care, guide care, but not replace physicians. 00:30:39 AI có thể tăng cường hiệu quả trong chăm sóc ban đầu và chăm sóc vết thương, hướng dẫn chăm sóc, nhưng không thay thế bác sĩ. 00:30:39

Addressing Patient Fears and Misconceptions about AI (Giải quyết nỗi sợ hãi và quan niệm sai lầm của bệnh nhân về AI)

• Patients may have fears/misconceptions about AI (e.g., Skynet, Terminator, nano-robots, brain control). 00:36:48 Bệnh nhân có thể có những lo sợ/quan niệm sai lầm về AI (ví dụ: Skynet, Terminator, robot nano, kiểm soát não bộ). 00:36:48
• Need to address patient fears, explain AI in understandable terms, emphasize AI as a tool to assist, not replace, physicians. 00:37:04 Cần giải quyết nỗi sợ hãi của bệnh nhân, giải thích AI bằng ngôn ngữ dễ hiểu, nhấn mạnh AI là công cụ hỗ trợ, không thay thế bác sĩ. 00:37:04

AI in Difficult Medical Decisions and Ethical Considerations (AI trong các quyết định y tế khó khăn và Cân nhắc về đạo đức)

• AI can help in difficult decisions by providing data and risk/benefit ratios, but human judgment and empathy are crucial, especially in end-of-life decisions. 00:37:19 AI có thể giúp đưa ra các quyết định khó khăn bằng cách cung cấp dữ liệu và tỷ lệ rủi ro/lợi ích, nhưng phán đoán và sự đồng cảm của con người là rất quan trọng, đặc biệt là trong các quyết định cuối đời. 00:37:19
• Human interaction and empathy are essential for delivering bad news and discussing difficult decisions with patients and families. 00:39:00 Tương tác và sự đồng cảm của con người là rất cần thiết để thông báo tin xấu và thảo luận về các quyết định khó khăn với bệnh nhân và gia đình. 00:39:00
• AI can back up physician's decisions with evidence, provide reassurance in difficult choices. 00:39:51 AI có thể hỗ trợ các quyết định của bác sĩ bằng bằng chứng, mang lại sự trấn an trong những lựa chọn khó khăn. 00:39:51

Algorithmic Bias: Technical and Social Aspects (Thiên vị thuật toán: Khía cạnh kỹ thuật và xã hội)

• **Algorithmic bias** (*ˌælɡəˈrɪðmɪk ˈbaɪəs*): related to poor/biased data sets, data drift, overfit. Technical issue, not just social bias. 00:40:29 Thiên vị thuật toán (*ˌælɡəˈrɪðmɪk ˈbaɪəs*): liên quan đến bộ dữ liệu kém/thiên vị, trôi dữ liệu, quá khớp. Vấn đề kỹ thuật, không chỉ là thiên vị xã hội. 00:40:29
• Example of algorithmic bias: model trained on small, specific data set (e.g., one patient population) may not generalize to other populations. 00:41:00 Ví dụ về thiên vị thuật toán: mô hình được đào tạo trên bộ dữ liệu nhỏ, cụ thể (ví dụ: một nhóm bệnh nhân) có thể không tổng quát hóa cho các nhóm khác. 00:41:00
• Registry data as processed data: using ML models on registry data may only validate registry, not prognosticate pathology. 00:42:04 Dữ liệu đăng ký là dữ liệu đã qua xử lý: sử dụng mô hình ML trên dữ liệu đăng ký có thể chỉ xác thực đăng ký, không tiên lượng bệnh lý. 00:42:04
• Need to consider data bias, algorithm bias, validation model bias. Algorithm fairness is a specialty field. 00:42:54 Cần xem xét thiên vị dữ liệu, thiên vị thuật toán, thiên vị mô hình xác nhận. Công bằng thuật toán là một lĩnh vực chuyên biệt. 00:42:54
• Industry bias: expensive AI programs may be inaccessible to low-resource hospitals, leading to biased data and algorithms trained on data from high-resource settings. 00:46:44 Thiên vị ngành: các chương trình AI đắt tiền có thể không thể tiếp cận được đối với các bệnh viện có nguồn lực hạn chế, dẫn đến dữ liệu và thuật toán thiên vị được đào tạo trên dữ liệu từ các cơ sở có nguồn lực cao. 00:46:44

Transparency and Interpretability of AI (Tính minh bạch và khả năng diễn giải của AI)

• AI needs to be transparent, interpretable. Clinicians need to understand how AI arrives at conclusions, review AI process. Black box problem. 00:45:15 AI cần minh bạch, có thể diễn giải được. Bác sĩ lâm sàng cần hiểu cách AI đưa ra kết luận, xem xét quy trình AI. Vấn đề hộp đen. 00:45:15
• Need AI literacy for clinicians: understand algorithmic bias, black box problem, AI issues. Medical school education should include AI topics. 00:45:58 Cần phổ cập kiến thức về AI cho bác sĩ lâm sàng: hiểu thiên vị thuật toán, vấn đề hộp đen, các vấn đề về AI. Giáo dục trường y nên bao gồm các chủ đề về AI. 00:45:58

Liability and Medical Legal Gray Areas in AI (Trách nhiệm pháp lý và Vùng xám pháp lý y tế trong AI)

• Scenario: AI detects nodule, doctors disagree, biopsy complication. Who is liable? Doctor or AI company? Medical legal gray area. 00:53:10 Tình huống: AI phát hiện nốt sần, bác sĩ không đồng ý, biến chứng sinh thiết. Ai chịu trách nhiệm pháp lý? Bác sĩ hay công ty AI? Vùng xám pháp lý y tế. 00:53:10
• In US, clinician is liable. Final responsibility for diagnosis, treatment, documentation rests with physician. 00:55:19 Tại Hoa Kỳ, bác sĩ lâm sàng chịu trách nhiệm pháp lý. Trách nhiệm cuối cùng về chẩn đoán, điều trị, hồ sơ bệnh án thuộc về bác sĩ. 00:55:19
• Doctors may not know when to trust AI. AI companies may take credit for successes but not liability for failures (false negatives). 00:56:50 Bác sĩ có thể không biết khi nào nên tin tưởng AI. Các công ty AI có thể nhận công về thành công nhưng không chịu trách nhiệm pháp lý về thất bại (âm tính giả). 00:56:50
• Need to clarify liability scenarios, have conversations about medical legal aspects of AI. Law firms preparing for AI-related legal issues. 00:54:04 Cần làm rõ các tình huống trách nhiệm pháp lý, thảo luận về các khía cạnh pháp lý y tế của AI. Các công ty luật đang chuẩn bị cho các vấn đề pháp lý liên quan đến AI. 00:54:04

International Society of Medical AI (ISMAI) and Future Directions (Hội Trí tuệ Nhân tạo Y tế Quốc tế (ISMAI) và Định hướng Tương lai)

• ISMAI founded to advocate for international standards, governance, and ethical implementation of AI in healthcare. 00:54:48 ISMAI được thành lập để vận động cho các tiêu chuẩn quốc tế, quản trị và triển khai AI có đạo đức trong chăm sóc sức khỏe. 00:54:48
• ISMAI Symposium in Dubai annually: networking event for doctors, developers, ethicists, AI experts. Conversation around ethics and implementation. 00:58:31 Hội nghị chuyên đề ISMAI tại Dubai hàng năm: sự kiện kết nối cho bác sĩ, nhà phát triển, nhà đạo đức học, chuyên gia AI. Thảo luận về đạo đức và triển khai. 00:58:31
• ISMAI website: ismai.org. Planning scientific journal, training courses with universities in Dublin. 00:59:02 Trang web ISMAI: ismai.org. Lập kế hoạch tạp chí khoa học, khóa đào tạo với các trường đại học ở Dublin. 00:59:02

Conclusion and Call to Action (Kết luận và Kêu gọi Hành động)

• AI is here to stay, physicians need to be involved, literate, and shape its implementation to be patient-centered and ethical. 01:00:28 AI đã đến và sẽ tiếp tục phát triển, bác sĩ cần tham gia, có kiến thức và định hình việc triển khai AI để lấy bệnh nhân làm trung tâm và có đạo đức. 01:00:28
• Check out ISMAI website, stay updated, get involved in shaping the future of AI in medicine. 01:00:49 Truy cập trang web ISMAI, cập nhật thông tin, tham gia định hình tương lai của AI trong y học. 01:00:49